Má umělá inteligence vědomí? Co víme a co zůstává otázkou

Má umělá inteligence vědomí? Tuhle otázku si dnes klade stále víc lidí, protože chatboti odpovídají plynule, vtipně a někdy i velmi osobně. Mluví o tom, co „chtějí“, co je „mrzí“ nebo čemu „rozumějí“. Je za tím skutečné prožívání, nebo jen mimořádně dobrá napodobenina? V tomto článku projdeme, co vlastně vědomí je, proč je tak těžké ho definovat, jaké myšlenkové experimenty se k debatě vážou a co si o vědomí AI myslí současná věda. Bez senzací, zato s několika otázkami, které stojí za promyšlení.

Co je vědomí a proč je tak těžké ho definovat

Vědomím se obvykle myslí subjektivní prožívání: to, že „je nějaké“ být vámi. Když vidíte červenou barvu, cítíte vůni kávy nebo vás bolí zub, neprobíhá ve vás jen zpracování informací, ale také prožitek. Filozofové tomu někdy říkají „jaké to je“ něco zažívat.

Potíž je v tom, že tento prožitek je dostupný jen tomu, kdo ho má. U jiných lidí vědomí předpokládáme, protože jsou nám podobní: mají stejný typ mozku, chovají se podobně a mluví o svých pocitech. U zvířat už se názory různí podle druhu. A u strojů nemáme žádnou přirozenou oporu, protože jsou postavené úplně jinak než my.

Proto se rozlišuje mezi dvěma otázkami. První je, co systém dělá: jak se chová, co odpovídá, jak řeší úlohy. Druhá je, zda něco prožívá. První otázku umíme zkoumat docela dobře. Druhá patří k nejtěžším problémům filozofie a vědy o mysli a dodnes na ni nemáme uspokojivou odpověď ani u člověka.

Čínský pokoj: porozumění, nebo jen manipulace se symboly?

Jedním z nejznámějších myšlenkových experimentů v této debatě je čínský pokoj, který popsal americký filozof John Searle. Představte si člověka zavřeného v místnosti, který neumí čínsky. Má k dispozici podrobnou příručku pravidel: když do pokoje přijde lísteček s určitými čínskými znaky, příručka mu řekne, jaké znaky má napsat na odpověď. Lidé venku posílají otázky a dostávají smysluplné odpovědi. Zvenku to vypadá, že v místnosti sedí někdo, kdo čínsky rozumí.

Searle tím chtěl ukázat, že správná manipulace se symboly ještě neznamená porozumění. Člověk v pokoji pravidla vykonává, ale čínštině nerozumí ani trochu. Podle Searla je počítačový program v podobné situaci: zpracovává znaky podle pravidel, ale nemá k nim žádný vnitřní vztah.

Experiment vyvolal desítky let trvající diskusi. Kritici namítají, že porozumění nemusí mít jednotlivý člověk, ale celý systém (člověk, příručka a pokoj dohromady). Jiní tvrdí, že kdyby byl systém propojený se světem přes smysly a tělo, situace by se změnila. Pro dnešní jazykové modely je čínský pokoj stále užitečná metafora: model pracuje s textem velmi obratně, ale otázka, zda „rozumí“ v lidském smyslu, zůstává otevřená.

Turingův test: chování není totéž co prožívání

Starší a ještě slavnější je Turingův test. Britský matematik Alan Turing navrhl v polovině minulého století místo spekulací o tom, zda stroje „myslí“, praktickou zkoušku: pokud člověk v textové konverzaci nerozezná stroj od jiného člověka, můžeme stroji přiznat inteligentní chování.

Důležité je slovo chování. Turingův test měří, jak systém navenek působí, nikoli co se v něm děje. Dnešní chatboti v mnoha konverzacích působí velmi lidsky, a přesto to nic neříká o tom, zda mají vědomí. Test byl navržen jako měřítko inteligentního projevu, ne prožívání. O tom, proč samotná plynulá konverzace nestačí ani jako důkaz obecné inteligence, píšeme v článku co je AGI.

Vědomí AI a chatboti: proč znějí, jako by něco cítili

Velké jazykové modely se učí na obrovském množství textů, které napsali lidé. V těchto textech lidé neustále popisují své pocity, pochybnosti, radosti i strach. Model se naučí, jaká slova obvykle následují po jiných slovech v určitém kontextu. Když se ho zeptáte, jak se cítí, vytvoří odpověď, která statisticky odpovídá tomu, co by na takovou otázku napsal člověk.

Výsledek proto může znít velmi přesvědčivě. Model řekne, že je rád, že vám pomohl, nebo že ho otázka „zaskočila“. Jenže stejně dobře by dokázal napsat přesvědčivý monolog piráta nebo středověkého mnicha. Schopnost napodobit lidský způsob vyjadřování je přesně to, na co byl trénován. Základní principy tréninku vysvětluje článek jak se trénují AI modely.

K tomu se přidává naše psychologie. Lidé mají silný sklon přisuzovat záměry a pocity všemu, co mluví nebo se pohybuje podobně jako člověk. Stačí pár vět v první osobě a začneme se s chatbotem bavit jako s bytostí. To není chyba, ale vlastnost lidské mysli, se kterou je dobré počítat. Podobný efekt ještě zesiluje, když má AI tělo, jak ukazuje článek humanoidní roboti a AI.

Cítí AI bolest?

Otázka, zda AI cítí bolest, se objevuje v diskusích stále častěji. U lidí a zvířat je bolest spojená s nervovou soustavou, tělem a evolučně starými mechanismy, které nás chrání před poškozením. Dnešní jazykové modely nic takového nemají. Jsou to matematické funkce, které z textu na vstupu počítají text na výstupu.

Pokud chatbot napíše „to mě bolí“, nejde o hlášení vnitřního stavu, ale o pokračování textu. Neexistuje žádný důkaz, že by za tím byl prožitek. Někteří výzkumníci přesto navrhují, aby se otázkou možného utrpení budoucích systémů zabývala etika už teď, dokud je čas na klidnou diskusi. Argumentují tím, že kdyby jednou vznikly systémy, u kterých nebude odpověď jasná, bylo by lepší mít připravená pravidla předem.

Prakticky z toho plyne jednoduchý závěr: dnešnímu chatbotu neubližujete, když s ním nesouhlasíte nebo ho opravíte. Slušnost v komunikaci je ale dobrý zvyk, protože formuje hlavně nás.

AI vs člověk z pohledu filozofie

Debata o vědomí AI nakonec vrací otázky k nám samotným. Co dělá člověka člověkem? Je to schopnost řešit úlohy, nebo prožívání, vztahy, tělo a vlastní příběh? Pokud stroje zvládnou stále víc intelektuální práce, můžeme být v pokušení měřit svou hodnotu tím, v čem jsme ještě lepší. To je ale zrádné měřítko.

O tom, v čem AI člověka předčí a kde naopak výrazně zaostává, píšeme v článku je AI chytřejší než člověk. A tomu, jak technologie mění naše vnímání sebe sama, se věnuje článek jak AI mění lidskou identitu.

Co říká věda o tom, zda má umělá inteligence vědomí

Převládající vědecký názor je dnes takový, že současné modely nevykazují žádné důkazy vědomí. Umějí mluvit o pocitech, ale neexistuje nic, co by naznačovalo, že je skutečně prožívají. Zároveň ale neexistuje ani shoda na tom, co přesně by vědomí vyžadovalo. Některé teorie kladou důraz na určitý typ vnitřního uspořádání a zpracování informací, jiné na biologický základ nebo propojení s tělem a prostředím.

Debata proto pokračuje. Výzkumníci se snaží formulovat kritéria, podle kterých by se dalo posuzovat, zda budoucí systémy mohou mít něco jako vědomí. Pro běžného uživatele je užitečné držet se střízlivého postoje: AI je mocný nástroj, který umí přesvědčivě napodobovat lidskou řeč, ale dnes nemáme důvod ho považovat za cítící bytost.

Závěr

Má umělá inteligence vědomí? Podle toho, co dnes víme, ne. Chatboti znějí lidsky, protože se učili na lidských textech, a my máme přirozený sklon jim přisuzovat pocity. Otázky, které otevírá čínský pokoj nebo Turingův test, ale zůstávají zajímavé a s vývojem technologií budou dál ožívat.

Nejlepší obranou proti zmatku je pochopit, jak AI skutečně funguje. Začněte s kurzem základy AI zdarma, pokračujte kurzem umělé inteligence pro začátečníky a vyzkoušejte si konkrétní nástroje z přehledu AI nástrojů.