Veszélyes lehet a kreatív robot - Mi van, ha 'megszünteti' az ápolt szenvedését?

 

Alan Mathison Turing brit matematikus (mellesleg a II. világháborús Enigma-rejtjelek híres feltörője) 1950-ben megjelentetett Számítógépek és intelligencia című munkájában azt állította, hogy 50 évvel később, vagyis 2000 körül lesz már olyan számítógép, amely képes lesz elhitetni a vele beszélgető emberekkel, hogy ő is ember. A teszt abból áll, hogy a bíráló billentyűzet és monitor közvetítésével kérdéseket tesz fel két tesztalanynak, akiket így se nem láthat, se nem hallhat. A két alany egyike valóban ember, míg a másik egy gép – és mindketten megpróbálják meggyőzni a kérdezőt arról, hogy ők gondolkodó emberek.

Ha a kérdező ötperces faggatás után sem tudja egyértelműen megállapítani, hogy a két alany közül melyik a gép, akkor a gép sikerrel teljesítette a tesztet. Egy héttel ezelőtt a világsajtó lelkesen számolt be a tudományos szenzációról: egy intelligens gép átment a Turing-teszten.

A Eugene Goostman nevű, magát 13 éves ukrán kisfiúnak „hazudó” gép a Londonban összegyűlt tesztelők 33 százalékát győzte meg, így „ő” lett az első. Szülőatyjai, az orosz születésű amerikai Vlagyimir Veszelov és az ukrán Jevgenyij Demcsenko nem kis elégedettséggel zsebelték be a gratulációkat: „Hatalmas siker nekünk, és reméljük, hogy ezzel sikerül növelnünk az érdeklődést a mesterséges értelem és a chatbotok iránt” – mondta Veszelov.

Alig egy nappal a világszenzáció után megjelentek a szkeptikusok. Elsősorban azt kifogásolják, hogy Eugene Goostmant sok helyen szuperszámítógépként aposztrofálják, miközben csak egy chatbot, vagyis olyan program, amelyet a valódi személyek közötti csevegés utánzására készítettek.

Ennek pedig semmi köze a mesterséges intelligenciához, hiszen az ilyen programok jobbára csak tonnányi, előre rögzített válaszból állnak. Ha elég sok ilyen kézi vezérelt kérdés-felelet páros van a tarsolyban, akkor bizonyos szituációkban a géptől érkező válaszok akár azt a látszatot is kelthetik, hogy egy valódi személlyel beszélgetünk.

Ráadásul Goostman „könnyített pályán” versenyzett, hiszen azzal, hogy magát ukrán kisfiúnak adta ki, magyarázatot adott egy sor hibásnak tűnő válaszra is. Arról nem is beszélve – emlékeztet a bitport.hu internetes portál –, hogy nem ez volt az első eset, amikor chatbot átment a teszten; 2011-ben egy Cleverbot nevű masina is teljesítette ezt. Csak most nagyobb volt a felhajtás.

Valójában mi történt? Eugene Goostman igazi áttörés a mesterségesintelligencia- kutatásban, vagy csak egy médiahack áldozatai vagyunk?

– Hogy a közepébe vágjak: semmiképpen nem beszélhetünk médiatörténeti eseményről – mondja lapunknak Jelasity Márk, a Magyar Tudományos Akadémia és a Szegedi Tudományegyetem Mesterséges Intelligencia Kutatócsoportjának kutatója. – A hasonló csetelő robotok (chatbot) már hosszú évek óta hasonló teljesítményre képesek, és ráadásul ma már nagyon kevesen hiszik, hogy a Turing-tesztnek ez a formája (ahol csak szöveges üzenetekkel történik kommunikáció legfeljebb 5 percig) komoly eszköz lenne annak eldöntésére, hogy egy gépnek van-e intelligenciája, öntudatról nem is beszélve. Viszonylag egyszerű elvek segítségével meglepően sikeres programokat lehet írni, amelyek a gyanútlan embert megtévesztik. Közismert az ELIZA program, ez egy pszichológust modellezett a ’60-as években, néhány egyszerű szabály segítségével.
Például, ha észrevette, hogy szerepelt az „apa” szó, akkor visszakérdezett, hogy „Meséljen még az apjáról!”. Beszámolók szerint volt, aki órákon át „beszélgetett” a programmal, és kisírta a lelkét.
Szögezzük le azért, hogy ilyen csetelő robotot készíteni sok szakértelmet igénylő feladat, és valós teljesítmény van a hír mögött, csak éppen nem törtünk át semmilyen korlátot, nem jött létre ettől a „mesterséges intelligencia (MI)”.

– Ha Eugene Goostman valójában nem az, akkor mit jelent pontosan a mesterséges intelligencia fogalma?

– A közfelfogással ellentétben a kutatások döntő többsége nem az emberi viselkedés reprodukálására törekszik, hanem arra, hogy egy adott bonyolult problémát megoldani képes algoritmust vagy robotot hozzon létre.
Ami akár teljesen máshogy is működhet, mint az ember. Jó példa erre a sakkozóprogramok esete, amelyek ma már sokkal jobbak, mint bármelyik ember. Van olyan tudomány is, amit az emberi viselkedés érdekel specifikusan: úgy hívják, hogy kognitív tudomány.
Ez a pszichológia, matematika, biológia, nyelvészet stb. határterületén az emberi gondolkodást próbálja modellezni, annak korlátaival és furcsaságaival együtt. Az MI kutató viszont inkább mérnök, aki egy problémát akar megoldani, tipikusan olyat, amit eddig csak emberek tudtak. Érdemes megemlíteni az erős és gyenge MI közötti különbséget is, ami abban áll, hogy az erős MI akkor valósul meg, ha olyan gépet alkotunk, amelynek van öntudata, valódi elméje. A gyenge MI pedig csak viselkedés szintjén követeli meg a hasonlóságot, itt nem érdekel minket, hogy vane öntudat. A Turing-teszt egyébként a gyenge MI tesztje. Az erős MI-nek éppen az az egyik problémája, hogy nagyon nehéz tesztelni. Sok sci-fi alapproblémája ez. Nem kizárt viszont, hogy az agykutatás előbb-utóbb elvezet az emberi öntudat tudományos megértéséhez is, erre már sok jel mutat, és akkor talán tesztelni is lehetne az erős MI-t is.

– Mi volt az elmúlt évek legnagyobb áttörése az MI-kutatásban?

– Számomra a legérdekesebb jelenleg az önvezető autók rohamos fejlődése. Autót vezetni sokkal, de sokkal nehezebb, mint repülőt, bármilyen furcsán hangzik is. Repülőt már évtizedek óta tudnak gépek vezetni, autót pedig csak 1-2 éve. Egy autóban figyelni kell a gyalogosokra, táblákra, az útra, a többi autóra. Sőt nemcsak felismerni kell ezeket (ami már eleve nehéz, pl. megmondani, merre vezet az út), de látni kell előre, hogy egy gyalogos vagy autó mit fog tenni, és ez mind-mind sok tudást igénylő feladat. Talán fölösleges megjegyezni, hogy azok az autók sem „gondolkodnak” semmilyen emberi értelemben.

– Valós veszély-e, hogy a „gondolkodó gépek” előbb-utóbb átveszik a hatalmat fölöttünk, vagy ez csak a sci-fi írók fantáziájának szüleménye?

– A problémának van valós alapja. A gépek célokat nem tudnak ugyan kitalálni (megjegyzem, emberek sem, hiszen az alapvető céljaink genetikailag vannak kódolva), legfeljebb kreatívan valósítják meg azokat. Ez viszont járhat veszélyekkel (mint ahogy az emberek esetében is).
Ha egy gép sok szabadságot kap annak eldöntésére, hogy a céljait hogyan érje el, esetleg kreatív is (tehát nem rögzített sémák közül választ), akkor nagyon kell vigyázni, hogyan definiáljuk a célt. Hogy ijesztőbb példát mondjak, egy kreatív ápoló robot számára biztosan nagyon rossz cél a beteg szenvedéseinek a megszüntetése. Ennél sokkal finomabban kell a célokat meghatározni.
 

Már előfizethet a Vasárnapi Hírekre, kattintson!