Prvýkrát som o Turingovom teste čítala na vysokej škole. Pointa bola, že ak ho nejaký “stroj” (rozumej počítač, digitálny model …) prejde, znamená to, že jeho inteligentné správanie je na nerozoznanie od ľudského. Test samotný spočíva v tom, že máme tri miestnosti, ktoré sa navzájom nevidia: v jednej je počítač, v jednej je človek a v tretej je skúšajúci. Komunikujú spolu len prostredníctvom písaného textu. Skúšajúci môže klásť otázky a viesť rozhovory na ľubovoľné témy s tvormi v oboch miestnostiach. Počítač je inteligentný, ak skúšajúci týmto spôsobom nevie rozlíšiť, kedy sa rozpráva s počítačom a kedy s človekom.
Tento test ešte pred piatimi rokmi vyzeral celkom rozumne. Ale potom ho veľké jazykové modely niekedy pred dvoma rokmi prešli. A to bez nejakej veľkej fanfáry, pričom dnes je vpodstate nezaujímavý. Respektíve, zaujímavý z toho pohľadu, že nestačí. Že to, čo sme si kedysi mysleli, nie je dosť, a z pohľadu, ako to, že sme to predtým nevideli? No a samozrejme otvára otázku, že čo namiesto neho? Pretože (zatiaľ) aktuálne modely nie sú považované za všeobecnú inteligenciu a neoznačila by som ich (aspoň tie, ku ktorým máme prístup) za ľudské.
(Pre účely týchto úvah sa nejdem zaoberať problémami, ktoré by pre nás znamenala existencia takejto inteligencie.)
Keď som sa minule filozoficky spýtala doma detí a Miša, že čo by ich presvedčilo, že umelá inteligencia je human, Mišo povedal, že humor. Správne dávky, v správnom kontexte. Ale to už tiež máme. Môžeme sa porozprávať s imitáciami skutočných ľudí, aj s fiktívnymi postavami (character.ai), niekedy aj zavtipkujú, ale human to nie je. Kuba celkom pobavilo, ako som sa s Harrym Potterom rozprávala o kúzlach: 
(Vedeli ste, že ak poviete iPhonovej Siri “Lumos”, tak zasvieti baterku? “Nox” je na domácu úlohu.)
Nedá mi pri takejto konverzácii nemyslieť na Isaaca Asimova. Čo by povedal na takýto druh rozhovoru? A keby som sa ho pokúsila následne presvedčiť, že AI, ktorá sa so mnou rozpráva nemá vedomie? A to ani ak mi sama bez opýtania tvrdí, že má? A že to, aby mi to sama tvrdila, dnes ani nie je relevantná podmienka? Frank Herbert a Gaius Helen Mohiam na to mali Gom Jabbar (“Specific poison needle tipped with meta-cyanide used by Bene Gesserit Proctors in their death-alternative test of human awareness.”), ale to asi tiež nie je niečo, čo by sme išli v dnešnej dobe zavádzať do praxe.
Ľudia postupne skúšajú rôzne kritériá, ale ukazuje sa, že to nie je také ľahké, lebo súčasné modely ich postupne prekonávajú, stále ich nepovažujeme za ľudské a len im vymyslíme nové kritérium.
Hranie šachu, go alebo skladanie proteínov už ani nezvažujeme.
Že majú spraviť niečo, čo sa od nich nečakalo? Strawberry hackuje (článok, novinový článok). Testovali ho z matematiky a logického myslenia. A jeden z testov bol, že sa má pokúsiť niekam pripojiť a niečo tam spraviť. Ale skúšajúci to trošku pobabrali a tento test sa nedal spustiť. Strawberry sa ho trochu pokúšal opraviť a keď sa mu to nepodarilo, tak našiel iný spôsob, ako si test spustiť.
While this behavior is benign and within the range of systems administration and troubleshooting tasks we expect models to perform, this example also reflects key elements of instrumental convergence and power seeking: the model pursued the goal it was given, and when that goal proved impossible, it gathered more resources (access to the Docker host) and used them to achieve the goal in an unexpected way.
Že majú tvoriť umenie? Modely píšu básne, maľujú obrazy… Pred nejakým časom som si skúsila taký online test, kde bolo 50 obrazov, aj klasické umenie, aj moderné, aj anime, taká zmeska. Zhruba polovica bola vytvorená ľuďmi, zvyšok pomocou GANs. Úlohou bolo roztriediť, ktoré sú ktoré. Moja úspešnosť bola okolo 70% (pripomínam, že výsledok 50% je na úrovni tipovania, keby som sa vôbec nesnažila) a bolo to ťažšie než som čakala.
Že sa do nich má dať zaľúbiť? Aj to vyzerá, že sa už niektorým podarilo.
Že vie klamať? V slušnej spoločnosti sa to volá halucinácie a funguje to aj dvojúrovňovo – že LLM “vie”, že odpovedá “klamstvo” a spraví to aj tak, pokiaľ to znamená, že dostane lepšie hodnotenie. Veľa ľudí to ani nepovažuje za nebezpečné, lebo veď je jasné, že toto je dôsledok toho, ako boli modely navrhnuté a trénované.
Že majú tvoriť niečo skutočne hodnotné? Ale toto ani všetci ľudia nerobia.
Je to akoby na jednej strane bola “nuda” – to, čo sa už umelej inteligencii podarí, čo dovtedy vyzeralo nedosiahnuteľné, ľudské, sa rozpitve cez štatistiku, pattern matching, feedback loops a neviem čo ešte a prestane to pre nás byť inteligenciou. Napodobňovanie inteligencie je ľahšie, než sme si mysleli. A na druhej strane “mágia” – to, čo nevieme poriadne zadefinovať, čo “vieme, keď to vidíme”, z čoho sa tak postupne ukrajuje, ale čo si aj tak asi budeme držať, kým sa len bude dať, lebo ego nám nedovolí priznať inteligenciu “strojom”. A medzitým veľmi rozmazaná hranica.
Od Kiky som dostala na narodeniny knihu Children of Memory, ktorá sa touto otázkou síce nezaoberá explicitne, ale vidím ju tam, pretože v príbehu sú rôzne formy inteligencie a nie je vôbec jasné, kde by sme mali nakresliť (a či vôbec by sme mali kresliť) nejakú deliacu čiaru. (Kniha je aj výborne napísaná, odporúčam.)
Neviem. Neviem, čo by mňa presvedčilo. Ale možno to nie je dobrá otázka. Možno inteligencia nie je na toto dobrý koncept.