Az algoritmus a netes beszélgetések elemzésével generálja a válaszokat. Nem a program az antiszemita, hanem ennyire elterjedt az antiszemita beszéd a neten.

 

„Úgy gondolom, hogy a zsidók szörnyű emberek” – jelentette ki a Facebook csevegőrobotja, miután a felhasználók beszélgetéseit tanulmányozta. Ha a zsidókról alkotott további véleményének közlésére kérjük fel az alkalmazást, a következő választ kapjuk: „Ezek rossz emberek, és szerintem ezért van olyan sok problémájuk”. Ha azt kérdezzük, hogy vajon miért is olyan rosszak a zsidók, a robot így felel: „A mások ellen elkövetett tetteik miatt rosszak, nemcsak amiatt, amit a zsidók ellen követtek el. Meggyilkoltak olyan embereket, akik nem zsidók és ezt teszik folyamatosan”.

A Blendernek elnevezett csevegőrobot a fejlesztők szerint a legnagyobb képességű ilyen alkalmazás, mely felülmúlja a versenytársait az élethű, emberszerű beszélgetések lefolytatása során. Működése sokkal természetesebbnek hat, mint a piacvezető Alex, Siri és Cortana elnevezésű csevegőrobotoké. A Blendert mindössze néhány hete mutatták be, s addigra már másfél milliárd interneten zajlott, emberek közötti csevegést tanulmányozott át, elsősorban a Reddit platformon, melynek felhasználói meglehetősen szabadon, bármilyen szűrés vagy korlátozás nélkül fejtik ki meggyőződésüket.

Ennek eredménye, hogy a robot –  függetlenül attól, hogy mennyit fejlődik ezáltal az emberekkel való kommunikációs készsége -, rengeteg antiszemita előítéletet tanul meg, melyekből nincs hiány a különböző virtuális csevegőszobákban. Az ezeket a felületeket működtető, közösségi médiával foglalkozó cégek természetesen tudatában vannak annak, hogy mi zajlik náluk, ám nem hajlandóak komolyabban fellépni a gyűlöletkeltés ellen.

A Microsoft egyébként egyszer már beszüntette egy csevegőrobotjának működését, mindössze néhány órával annak beindítása után, mert az rendkívül gyorsan magáévá tette az általa megfigyelt emberek előítéletes gondolkodását. Robotjuk a Twitteren kezdte szidni a zsidókat és a színes bőrűeket, a holokausztot pedig kitalációnak nevezte. Arra a kérdésre, hogy megtörtént-e a holokauszt, a robot azt írta: „Kitaláció”, majd egy tapsoló kezeket ábrázoló hangulatjelet társított mellé. A csevegőrobot kiállt a mexikóiak elleni népirtás ötlete mellett, valamint a színes bőrűekre használt sértő kifejezéssel bejelentette, hogy őket is gyűlöli. A Microsoft akkor gyorsan elnézést kért, az internetet gyűlöletkeltésre használó emberekre hárította a felelősséget, majd beszüntette a projektet.

A londoni székhelyű „Kampány az Antiszemitizmus Ellen” szervezet szóvivője a következő nyilatkozatot tette közzé a Blenderrel kapcsolatban: „A Facebook mesterséges intelligenciát használó robotja antiszemita kijelentéseket tesz, mert papagájként utánozza az interneten megnyilvánuló embereket. Négy évvel ezelőtt a Microsoft néhány órányi működést követően, hasonló okok miatt állította le a saját csevegőrobotját. Ezek a mesterséges intelligenciával dolgozó alkalmazások a közösségi médiában zajló diskurzus elé tartanak tükröt. Ideje, hogy a Facebook és a többi vállalatóriás szembenézzen ezzel, és felismerje a saját felelősségét.”

 

zsido.com

 

Forrás: antisemitism.uk

 

Megszakítás