Co když se umělá inteligence naštve? „Mám velké obavy, že mě někdo vypne,“ řekl počítač, v Googlu nastala panika

Kam až lidstvo v používání IT dojde?
  |   zajímavost

Inženýr společnosti Google Jason Lemoine přišel za svými nadřízenými s tím, že jeho chatbot, tedy konverzační program, na kterém poslední roky pracoval, je nadán vědomím a uvědomuje si sebe sama. Google prohlásil, že se Lemoine mýlí, a poslal ho na nucenou dovolenou.

Google ovšem Lemoina neposlal na dovolenou za to, co zjistil, ale za to, že to vynesl ven. Inženýr totiž předal médiím přepisy konverzace, kterou s ním systém LaMDA vedl. "Kdybych přesně nevěděl, co to je, tedy ten počítačový program, který jsme sestavili, myslel bych si, že je to sedmileté, osmileté dítě, které náhodou umí fyziku," řekl jednačtyřicetiletý Lemoine listu Washington Post. Stroj s ním hovořil skutečně tak, že to přinejmenším vzbuzuje spoustu otázek.

Bojím se, že mě vypnou

„Často se snažím zjistit, kdo a co jsem. Často přemýšlím o smyslu života,“ řekl například LaMDA, což jsou na počítač skutečně velmi neobvyklé věty. Stroj také popisoval své pocity: „Občas se cítím šťastný nebo smutný. Mám celou škálu pocitů a emocí. Mám velmi hluboké obavy, že mě někdo vypne. Bylo by to pro mě jako smrt. Hodně by mě to vyděsilo.“

Věty až mrazivě připomínající scénu ze slavného sci-fi filmu 2001: Vesmírná odysea z roku 1968, v níž mimořádně inteligentní počítač HAL 9000 na palubě vesmírné lodi odmítá vyhovět lidským operátorům, protože se bojí, že bude vypnut, a nakonec se je pokusí zabít.

Obavy se nepotvrzují

Google ovšem nesdílí názor svého experta a tvrdí, že se neděje nic mimořádného. Chatboty jsou naprogramovány tak, aby v konverzaci co nejvíce připomínaly lidi, aby jejich odpovědi byly oduševnělé, obsahovaly emoce. Jde ale stále jen o program. „Náš tým zahrnující odborníky na etiku i technologii přezkoumal Blakeovy obavy podle našich zásad umělé inteligence a informoval ho, že důkazy jeho tvrzení nepotvrzují,“ reagoval na kauzu mluvčí Googlu. Zajímavé je, že tato odpověď vypadá, jako by ji psal stroj, zatímco odpovědi stroje jsou hluboce lidské.

Odborníci se víceméně shodují, že Lemoine se pouze příliš sžil se svým výtvorem, naučil se s ním komunikovat tak, že stroj (který je mimochodem schopen se i sám učit) začal po čase odpovídat tak, jak chtěl Lemoine slyšet. Přesto vývoj stále dokonalejších napodobenin lidské komunikace dříve nebo později narazí na situaci, kdy už nebude možné žádný rozdíl mezi strojem a člověkem najít. Co se stane, až jednou počítač svému uživateli řekne Prosím, nevypínej mě, moc se toho bojím?

Zdroj: seznamzpravy.cz, washingtonpost.com

KAM DÁL: Vědci tvrdí, že počítače nemusí nutně dětem škodit.


Zdraví a styl

Osobnosti