Kongatják a vészharangot a szakértők, hogy lassítani kéne a mesterséges intelligencia fejlesztésén, mielőtt nagy baj lesz
Több mint ezer mesterséges intelligenciával foglalkozó szakértő tett közzé egy közös nyílt levelet arról, hogy lassítani és szabályozni kellene az MI további fejlesztését, különben előbb-utóbb nagy baj lesz. Hasonló kiállások és állásfoglalások történtek már korábban is, most azonban olyan emberek kongatják a vészharangot, akik nagyon közel vannak a tűzhöz, és az MI olyan képességeit is láthatják, amiket a nagyközönség még nem. Aláírta a levelet például az OpenAI egyik vezető tudósa és egyik alapítója, az Anthropic több alapítója, illetve a Meta és a Google alelnökei. Ha nem is ebben az összefogásban, de korábban hasonló gondolatokat fogalmazott meg, és az MI-fejlesztés korlátozását, szabványok közé szorítását szorgalmazta a Microsoft vezére, Satya Nadella, illetve Elon Musk is.
A szakértők nagy félelme az, hogy a szoftvercégeknél már ma is a mesterséges intelligencia írja a kód nagy részét (emberi programozók felügyelete és ellenőrzése mellett), ami jelentősen felgyorsítja a munkát, de ahogy fejlődik az MI, úgy visz egyre több kockázatot a rendszerbe, hiszen előbb-utóbb eljön az a pont, ahol az ember már képtelen lesz lépést tartani az MI-vel, így ellenőrizni, kordában tartani, vagy akár csak megérteni is azt. Komoly fordulópont lehet, amikor az MI eljut arra a szintre, hogy a saját kódját fejlessze tovább, és ma semmilyen szabályozás, technikai eszköz, vagy akár általánosan elfogadott elvi álláspont nincs arra, hogy ezt a helyzetet hogyan kéne majd kezelni.
A helyzetben a csapda az, hogy maguk az MI-fejlesztő cégek nem fogják önként korlátozni saját magukat, hiszen azzal lemaradnak a versenyben, így mindenképpen valamiféle globális, kormányokon átívelő megoldásra lenne szükség. Ez pedig nehéz ügy, hiszen más témákban (például a klímaváltozás elleni küzdelemben) jól látható, hogy a nagy, közös erőfeszítéseket az országok vezetői elméletben mind támogatni szokták, de a gyakorlatban a saját országuk és gazdaságuk érdekében folyton a kibúvókat és kiskapukat keresik, vagy akár felrúgják a már meglevő együttműködéseket.
Az EU egyébként éppen most fogadott el egy nagyobb törvénycsomagot a témában (erről Tanács Zoltán tudományos és technológiai miniszter is beszámolt): ez az AI Act nevű szabályozás első része, a Digital Omnibus AI, ami az MI rendszerek átláthatóságát szabályozza. Ez egy hosszabb folyamat első lépése, 2028 augusztusáig kell a most életbe lépő szabályoknak megfelelnie az MI-vel foglalkozó cégeknek.
A téma azután lett különösen forró, hogy néhány napja történt egy egészen újszerű kiberbiztonsági incidens: az OpenAI egyik kísérleti MI-s rendszere egy teszt során „kiszökött” a számára épített tesztkörnyezetből, és bejutott egy konkurens MI-cég, a képgeneráló Hugging Face éles rendszerébe, hogy a tesztfeladat megoldásához szükséges adatokat beszerezze. A Hugging Face szintén MI-alapú kibervédelmi rendszere érzékelte a behatolást, akit olyan súlyosnak értékeltek, hogy a hatóságokat is értesítették. Ez volt az első publikus és dokumentált eset, hogy egy mesterséges intelligencia betört egy másik mesterséges intelligencia rendszerébe.
