Gyilkos robotok

Ötven egyetemi kutató írta alá azt a levelet, amelyet egy dél-koreai egyetemnek küldtek amiatti aggodalmukat kifejezve, hogy ott automatikus harci fegyvereket fejlesztenek.

Mintegy harminc ország bojkottálja a dél-koreai állami egyetem tudományos és technológiai intézetet (KAIST), amely egy védelmi eszközöket gyártó vállalattal, a Hanwha Systemsszel szövetkezve „gyilkos robotokat” fejleszthet ki. Amint azt levelükben írják: nem kívánnak együttműködni az egyetemmel, sem vendégeket fogadni, mert tevékenységük felgyorsíthatja a fegyverek fejlesztésének versenyét, elősegítve az önműködő változatuk megjelenését. „Sok mindent lehet kezdeni a mesterséges intelligenciával, például életeket menteni, akár hadi helyzetekben is. De nyíltan kijelenteni, hogy partnerek vagyunk önműködő fegyverek előállításában, komoly aggodalmakra ad okot” – mondja Toby Walsh, a bojkott szervezője, az új-dél walesi egyetem professzora.

Jövő héten Genfben az önműködő fegyverekről rendeznek konferenciát. Eddig több mint húsz ország szólított fel teljes betiltásukra. A Hanwha egyik gyártmányának, a kazettás bombák betiltásáról nemzetközi egyezmény született, amelyet 120 ország írt alá, ezek között nincs ott Dél-Korea, az USA, Kína, és Oroszország.

A Halálos Önműködő Fegyverrendszerekről április 9-13 között tartják a következő konferenciát Genfben. Ezen több kérdést vitatnak meg, ezek között a legfontosabbak közé tartozik, hogy a mesterséges intelligenciával bíró fegyverek miként egészítik ki a hagyományos fegyverrendszereket. Az is a témák között lesz majd, milyen szerepe lesz az embereknek a halásos célokra való felhasználásukban: milyen viszonyban lesznek az emberek és a gépek a fejlesztés, a hadrendbe állítás a használat során. Áttekintik, milyen lehetséges alkalmazási lehetőségei vannak az egyre fejlődő a hasonló jellegű technikáknak, és hogy ezek milyen választási lehetőségeket engednek a humanitárius biztonság területén.

Elon Musk, aki igazán nem vádolható azzal, hogy ellene lenne a technológiai fejlődésnek, az utóbbi időben többször fejezte ki aggodalmát amiatt, hogy a mesterséges intelligencia (AI) önmagában is veszélybe sodorhatja az emberiséget. Félelmei között szerepel, hogy egy maroknyi vállalat tarthatja kezében az AI eszközöket, ezáltal túlzottan koncentrált hatalomra téve szert. Véleménye szerint annak csak tíz százalék az esélye, hogy az emberek biztonságban lesznek ezektől a rendszerektől, hogy sikerül biztonságossá tenni őket. Arra hívta fel a fejlesztő vállalatokat, hogy lassuljanak le és bizonyosodjanak meg róla, nem dolgoznak-e akaratlanul is veszélyes dolgokon. Stephen Hawking, a hetekben elhunyt világhírű fizikus szerint az AI egyenesen felválthatja az emberiséget, „az élet új formája” lehet. Úgy fogalmazott, az emberiség egyik legnagyobb dobása lehet a mesterséges intelligencia, hiszen hosszú távon akár a szegénység és a betegségek felszámolása is lehetséges vele. De csak akkor, ha jóra használják. Ha nem, akkor viszont mindennek vége lehet.