Największy błąd. Nazwaliśmy to [inteligencją]

Panie Prezydencie, nie przekonuje mnie ten awans.

Przez lata próbowaliśmy nauczyć ludzi, że odpowiedź AI trzeba sprawdzać. Teraz amerykańska administracja ma przedstawiać tę samą ustawową kategorię technologii jako „Super Intelligence". Uważam, że dokładamy użytkownikowi kłopot właśnie w miejscu, w którym powinien mieć możliwie jasną sytuację.

Nie mam pretensji do maszyny, że potrafi zrobić coś lepiej ode mnie. Mam pretensję do języka, który proponuje ogólną przewagę, zanim ustalimy, o jakie zadanie chodzi. Między tymi sprawami jest dość miejsca na całą książkę.

Decyzja Donalda Trumpa z 29 września 2026 roku zebrała w jednym dokumencie problem, o którym pisałem już wcześniej. Ambicja technologiczna dostała nazwę, a nazwa trafiła do polecenia dla administracji. Nie jest już wyłącznie przymiotnikiem w prezentacji sprzedawcy.

Zarządzenie „Inaugurating the Era of Super Intelligence" nakazuje amerykańskiej władzy wykonawczej używanie określeń „Super Intelligence" i „SI" zamiast „Artificial Intelligence" i „AI", w największym zakresie dopuszczalnym przez prawo. Wskazuje między innymi oficjalną korespondencję, komunikację publiczną, strony internetowe, raporty i dokumenty polityki administracji.

Nie jest to zakaz używania słowa „AI" przez wszystkich mieszkańców USA. Dokument nie wymaga też przerabiania wcześniej wydanych regulacji, zarządzeń prezydenckich, umów, grantów ani dokumentów historycznych.

Na potrzeby wdrożenia zarządzenia nowa nazwa obejmuje dotychczasową ustawową kategorię AI, z wyjątkami wynikającymi z prawa. Na przedstawienie propozycji zmian legislacyjnych dotyczących definicji wyznaczono sześćdziesiąt dni.

To dla mnie najważniejsze: zmiany nazewnictwa nie uzależniono od nowego testu możliwości każdego objętego nią systemu.

Słowo dostało awans. Konkretna odpowiedź na ekranie nadal wymaga sprawdzenia na tych samych podstawach.

Przedrostek „super" podsuwa porównanie, którego zakres trzeba sobie dopowiedzieć. Skoro wcześniej mieliśmy inteligencję sztuczną, a teraz mamy superinteligencję, to co zostało przekroczone? Dotychczasowe możliwości programu? Możliwości specjalisty? Moje? Wszystkie naraz?

Nazwa tego nie rozpisuje. I właśnie dlatego potrafi być tak poręczna w komunikacji. Mieści obietnicę, której zakres odbiorca może uzupełnić sam.

Jako językoznawcę interesuje mnie to, co dzieje się między znaczeniem terminu w dokumencie a jego rozumieniem w zwykłej rozmowie. Urzędnik może posługiwać się definicją odsyłającą do ustawy. Człowiek czytający nagłówek nie musi mieć tej ustawy otwartej w drugim oknie. Dostaje słowo i własne skojarzenia. To nie są identyczne warunki odbioru.

W technicznym dokumencie można zastrzec zakres pojęcia. W codziennym użyciu zastrzeżenie często nie podróżuje razem z nazwą. Chciałbym, żebyśmy przynajmniej zauważyli tę możliwość, zanim zaczniemy tłumaczyć ludziom, że źle zrozumieli obietnicę, którą im wcześniej wyświetlaliśmy.

Moja obawa dotyczy dodatkowego ciężaru, jaki taki język może dołożyć do kontroli. Najpierw przedstawiamy system jako poznawczy autorytet. Potem oczekujemy, że użytkownik zachowa wobec niego niezależność.

W wypadku AI relację współtworzy sposób przedstawiania produktu. Jeśli sprzedawca obiecuje ponadludzki osąd, a instrukcja wymaga czujnego sprawdzania każdego ważnego wyniku, użytkownik ma do pogodzenia dwa różne komunikaty. Da się je pogodzić, ale potrzeba do tego informacji o zadaniu i ograniczeniach. Sam zachwyt nie wystarcza.

Kalkulator liczy szybciej ode mnie. W wielu obliczeniach ufam mu bardziej niż własnemu rachunkowi w pamięci. Nie czuję się przez to poniżony. Nie muszę codziennie bronić godności językoznawcy przez mnożenie dużych liczb na kartce.

Zakres przewagi jest przy tym dość czytelny. Kalkulator nie ustala, czy warto brać kredyt tylko dlatego, że umie obliczyć wysokość raty. Do decyzji potrzebuję jeszcze celu, dochodów, innych zobowiązań i stosunku do ryzyka. Poprawny rachunek może być bardzo ważną częścią wyboru. Nie jest całym wyborem.

Z rozbudowanymi systemami granice trudniej zobaczyć, bo jedno okno obsługuje wiele różnych próśb. Mogę poprosić o sumę, interpretację umowy, plan rozwoju firmy i poradę, jak rozmawiać z pracownikiem. Odpowiedzi mają podobną formę. Ich wiarygodność nie musi być podobna.

Dlatego zamiast pytać, czy system jest ogólnie ode mnie mądrzejszy, wolę dowiedzieć się, w jakich zadaniach został sprawdzony. Na jakich danych? W porównaniu z kim? Jak oceniano błąd? Czy warunki mojego użycia przypominają warunki testu?

Nie są to pytania wymierzone w rozwój AI. Przeciwnie, pozwalają rozpoznać osiągnięcie. Jeśli system dobrze wykonuje konkretną pracę, warto umieć powiedzieć, jaka to praca. Ogólna pochwała rozmywa zarówno sukces, jak i granice jego zastosowania.

Nie chciałbym odbierać technologii zasług. Chciałbym przestać udzielać jej kredytu na wszystkie następne zadania na podstawie jednego, które wykonała znakomicie.

Panie Prezydencie, rozumiem polityczny sens pokazywania ambicji. Państwa chcą wspierać naukę, firmy chcą budować produkty, ludzie chcą mieć poczucie, że uczestniczą w czymś ważnym. Nie mam zamiaru przekonywać nikogo, że jedyną rozsądną postawą wobec nowych możliwości jest powściągliwe marszczenie brwi.

Chciałbym jednak wiedzieć, jak w tej opowieści ma wyglądać człowiek sprawdzający wynik. Czy jego zastrzeżenie jest oczekiwaną częścią pracy? Czy można wykazać błąd systemu bez konieczności dowodzenia, że jest się mądrzejszym od całej technologii? Czy osoba, której dotyczy decyzja, będzie mogła dowiedzieć się, dlaczego ją podjęto?

Nazwa nie odpowie na te pytania. Może za to sprawić, że zaczną brzmieć jak brak wiary w postęp.

Wolałbym komunikat zachęcający do korzystania z udokumentowanych możliwości. Można pokazać, gdzie narzędzie skraca pracę, gdzie pomaga specjalistom i gdzie jego zastosowanie jeszcze wymaga oceny. Można opowiadać o sukcesach bez sugerowania, że każdy wynik przychodzi od rozumu wyższej instancji.

Nie przedstawiam skutku wrześniowego zarządzenia jako już zmierzonego. Uważam jednak, że publiczne nadawanie technologii takiej rangi jest decyzją, którą trzeba uzasadnić także z perspektywy ludzi mających jej wyniki kontrolować.

To jest moja niezgoda. Dotyczyłaby podobnej decyzji niezależnie od nazwiska podpisanego pod dokumentem.

Nie mam w szufladzie jednego doskonałego słowa, które naprawi całą relację człowieka z maszyną. Gdybym ogłosił je na końcu tego rozdziału, zrobiłbym zapewne coś bardzo podobnego do tego, co krytykuję: przypisałbym nazwie moc większą, niż potrafię uzasadnić.

W codziennej pracy można zacząć skromniej. Powiedzieć, co system robi. Rozróżnić projekt odpowiedzi, prognozę, wyszukany dokument i wykonaną czynność. Nie ukrywać, że program może działać automatycznie, jeśli rzeczywiście dano mu takie uprawnienia. Nie sugerować zarazem, że płynna rozmowa oznacza osobistą odpowiedzialność rozmówcy.

Sam nadal używam skrótu AI. Jest w nazwie mojego biuletynu, w opisie pracy i w tej książce. Czytelnik nie powinien potrzebować nowego słownika tylko po to, żeby zrozumieć moją krytykę starego. Mogę korzystać z przyjętego terminu i jednocześnie pytać, jakie założenia niesie.

Gdy odpowiedź ma dobre podstawy, zwykłe „skąd to wiadomo?" nie odbierze jej wartości. Gdy podstaw brakuje, tytuł „super" ich nie dostarczy. Za chwilę zobaczymy to w historii, która zaczęła się od pytania o bilet lotniczy.