Washingtonban a politikusok szeptember első heteiben hirtelen ráébredtek arra, hogy milyen nagy veszélyt jelent a szabályozatlan mesterséges intelligencia, miután az MI-cégek saját fejlesztői egymás után kezdték el kongatni a vészharangot, hogy éppen most dől el az emberiség sorsa, és a szabályozatlan fejlesztés lesz a vesztünk.
Az Anthropic egyik kutatója tíz százalék esélyt adott arra, hogy a technológia a következő tíz évben kiirtja az emberiséget, a szakértők elszabadult, önállóan biológiai fegyvereket gyártó és kibertámadásokat indító MI-ügynökökről kezdtek el vizionálni, a legnagyobb MI-cégek vezetői pedig a terület szabályozását és a fejlesztések lassítását kezdték követelni.
Az amerikai kongresszusban évek óta próbálja pár képviselő és szenátor jogszabályokkal korlátozni a mesterséges intelligenciát, de sehova sem jutottak. Többségük csak most kezd ráébredni a veszélyre, de a szabályozás előtt van egy nagy akadály: Donald Trump amerikai elnök. A kínai vezetés közben inkább a saját hatalmát félti, nem az emberiséget. A világpolitika középpontjába került kérdésről kiemelten szó lesz az ENSZ héten kezdődött közgyűlésén, valamint Trump és Hszi Csin-ping kínai elnök csütörtöki találkozóján is.
Évek óta nem történik semmi
Közel tíz éve, 2016 novemberében tartották az első kongresszusi meghallgatást a mesterséges intelligenciáról, egy évvel azután, hogy Elon Musk és Stephen Hawking arra figyelmeztetett, hogy a technológia az emberi faj kihalásával fenyeget. Azóta több kétpárti törvényjavaslatot is benyújtottak republikánus és demokrata politikusok, de azok sehova sem jutottak, és jelenleg „gyakorlatilag nulla szövetségi törvény van az MI-vel kapcsolatban” – mondta a New York Timesnak Ted Lieu kaliforniai demokrata képviselő, egyike azoknak, akik évek óta foglalkoznak a témával.
Az a probléma, hogy a törvényhozók nagy többsége még csak azt sem tudja, hogy mi az az MI – mondta még 2023-ban a Timesnak Jay Obernolte republikánus képviselő, a kongresszus egyetlen olyan tagja, akinek mesterszintű diplomája van a témában. Anna Paulina Luna floridai republikánus képviselő szeptemberben a lapnak szintén azzal magyarázta a lassú haladást, hogy a kongresszus tagjai nem értik, miről van szó. „Ha egy átlagos idősebb tagról van szó, akkor nem feltétlenül követik ezt olyan mértékben, amennyire kellene” – mondta a 37 éves képviselő. „Ez nem prioritás, és a képviselők és szenátorok nem érzik sürgetőnek” – mondta 2023-ban a Timesnak Donald S. Beyer demokrata képviselő.
Az elmúlt években képviselők sora nyújtott be törvényjavaslatokat a mesterséges intelligenciával foglalkozó cégek működésének különböző fokú szabályozásához, de ezek a mesterséges intelligenciával készített bosszúpornókat betiltó jogszabály kivételével egyelőre sehova sem jutottak. „Kétségtelen, hogy a kongresszus messze le van maradva attól, ahol lennünk kéne ennek a veszélyes és gyorsan fejlődő technológiának a kezelésében” – írta Bernie Sanders szenátor, aki a mesterséges szuper-intelligencia betiltásáról szóló jogszabálytervezetet nyújtott be.
Felébredtek
Most azonban úgy tűnik, kezdenek odafigyelni. A politikusok többsége csak most először hallotta az aggodalmakat egy kutatótól – mondta a Wall Street Journalnek Sam Silverman tanácsadó, utalva az MI-iparból az elmúlt hetekben érkezett figyelmeztetésekre. Hozzátette, hogy valós időben lehet látni, ahogy azon kezd járni az agyuk, hogy ez a technológia „a legjobb esetben életünk legnagyobb gazdasági és társadalmi zavarát okozza, a legrosszabb esetben pedig az emberiség létét fenyegeti”.
Az elmúlt napokban erősödött egy olyan törvényjavaslat támogatottsága, amely egy vészleállító kapcsolót írna elő, amivel gyorsan le lehetne állítani az emberi irányítás alól kikerült, önállósodott eszközöket. Ezt júliusban nyújtotta be Ted Lieu demokrata és Nathaniel Moran republikánus képviselő. A vészleállítást azonban a műszaki nehézségek miatt egyáltalán nem lenne könnyű megvalósítani.
A legnagyobb figyelmet egy másik, a szenátus republikánus vezetője, John Thune szenátor és Amy Klobuchar demokrata szenátor még előkészítő fázisban lévő tervezete kapta. Ez megkövetelné a fejlesztőktől, hogy kormányzati szakértőkkel együttműködve teszteljék a modelljeik biztonságát. Ted Cruz republikánus szenátor szerint a jogszabály főleg a „biológiai és nukleáris fenyegetések katasztrofális kockázataival” foglalkozik. „Egyértelmű, hogy most kell cselekednünk, nem várhatunk” – mondta Klobuchar a Wall Street Journalnek. Közben a demokraták arra készülnek, hogy egy különleges MI-bizottságot hoznak létre, ha a novemberi félidős választásokon ők kerülnek többségbe a képviselőházban, és hasonlóra készülnek a szenátusban is.
Az akadály: Trump
A szövetségi szabályozásnak azonban van egy nagy akadálya: Donald Trump. Az amerikai elnök, akinek még mindig nagy befolyása van a republikánus politikusokra, az elmúlt hetekben félresöpörte az MI-vel kapcsolatban megfogalmazott aggályokat és félelmeket, és inkább azon aggódott, hogy a terület szabályozásával és a fejlesztések lelassításával vagy leállításával Kína megelőzné az Egyesült Államokat. Egyben megkérdőjelezte a vezető MI-cégek őszinteségét, és arra utalt, hogy vezető pozíciójuk megtartása és a konkurencia megállítása miatt húznák be a féket.
Amikor szeptember 10-én arról kérdezték, hogy aggódik-e amiatt, hogy az MI az emberiség kihalásához fog vezetni, közölte, hogy egyáltalán nem. „Azért aggódom, hogy ha nem nyerjük meg az MI-versenyt, akkor rossz helyzetbe kerülünk.” Hétfőn az All-In Summit nevű rendezvényen kijelentette, hogy „a robotok nem fogják átvenni az irányítást. A mesterséges intelligencia nem fogja átvenni az irányítást a világ többi része felett. Az egész egy átverés.” Aznap a közösségi oldalán pedig arról írt: „Az egyetlen ellenőrzési mechanizmus vagy »biztonsági korlát«, amire a mesterséges intelligenciának szüksége van, az egy ERŐS ÉS OKOS (magas IQ-jú!) ELNÖK, és az USA-nak ez simán megvan!”
Azonban a Fehér Házban már nem mindenki ennyire magabiztos, mint Trump, és több magas rangú tisztviselő, köztük nagy hatalmú kabinetfőnöke, Susie Wiles és Scott Bessent pénzügyminiszter is hónapok óta szinte naponta tart megbeszéléseket arról, milyen veszélyeket jelent a szektor és milyen korlátok közé kéne szorítani. Erről szeptember közepén szivárogtattak ki információkat a Wall Street Journalnek, ami szokatlannak számít, mert Wiles keménykezű irányítása alatt a Fehér Ház „szivárgásmentessé” vált, és jelzi, hogy a kérdés milyen nagy vitákat válthatott ki Trump tanácsadói körében.
A lapnak névtelenül nyilatkozó emberek szerint Trump néhány magas rangú tanácsadója kezd „csendben frászt kapni”, és igyekeznek meggyőzni az elnököt a szigorúbb szabályozás szükségességéről és az MI veszélyeiről, de nem járnak sikerrel. Trump ugyanis olyan emberekkel vette körbe magát, mint David Sacks befektető és Jensen Huang, az Nvidia csipgyártó CEO-ja, akik inkább a fejlesztések korlátlan gyorsítását szeretnék elérni.
A dolgot nehezíti, hogy a 80 éves Trumpnak a hozzá közel álló emberek elmondása szerint felszínesek a technológiai ismeretei. A WSJ-nek egy magas rangú kormányzati tisztviselő azt mondta, hogy az elnököt érdekli az MI, de nem használja állandóan. Trump csak 2022-ben kezdett el szöveges üzeneteket küldeni, és munkatársai rendszeresen kinyomtatva mutatnak meg neki közösségi oldalakon megjelent posztokat. „Nem hiszem, hogy az elnök le tudná betűzni az MI-t, ha megmondanám neki az első betűt” – mondta egy kongresszusi meghallgatáson Stephen Lynch demokrata képviselő.
Az amerikai elnök szeptember 19-én, szombaton a közösségi oldalán bejelentette, hogy létrehoz egy „MI erőt”, valamint kinevez egy „MI-cárt”, de azt már nem közölte, hogy pontosan mi lesz a feladatuk. A posztjában ugyanakkor újra kamunak nevezte a mesterséges intelligencia veszélyeiről szóló figyelmeztetéseket, és közölte, hogy nem fogják semmilyen módon akadályozni „ennek a csodálatos iparnak a növekedését”.
Peking is fél, de mástól, és szabályoz
Bár Trump azt mondta, hogy Hszi Csing-ping kínai elnök „most jelentette be, hogy Kína abszolúte semmit sem fog tenni azért, hogy az útjába álljon az MI-nek és jövőjének”, Peking már évek óta szabályozza annak fejlődését. Hszi egy, a Kínai Kommunista Párt vezetőinek tartott januári eseményen a kínai állami média beszámolója szerint arról beszélt, hogy bár az MI olyan nagy hatású lesz, mint a gőzgép, az elektromosság és az internet, nem szabad engedni, hogy az új technológia „elszabaduljon”.
Júliusban pedig egy mesterséges intelligenciáról szóló sanghaji nemzetközi konferencián közölte, hogy az MI-nek „mindig emberi irányítás alatt kell maradnia”. A kínai igazságügyi miniszter márciusban arról beszélt, hogy Kína idén felgyorsítja az MI-vel kapcsolatos jogszabályokhoz köthető kutatásokat, és ugyanezt mondta a kínai külügyminisztérium mesterséges intelligenciáért felelős tisztviselője is az ENSZ-nek.
Kínában ugyan nincsen egy, az MI-t szabályozó átfogó törvény – egy tervezetet tavaly szép csendben visszavontak –, de Kína úttörőnek számít az MI-szabályozásban, és az elmúlt években a világon elsőként hozott több, a szektor működését szabályozó előírást. Az MI-cégeknek különböző szabályokat, irányelveket és szabványokat kell betartaniuk, amiket több kormányszerv és főleg a kínai kibertér-szabályozó hatóság (CAC) felügyel.
Ezek között vannak olyan szabályok, amik az MI-társak működését szabályozzák az emberek mentális egészségének védelmére, vagy az MI-tartalmak kötelező jelzését írják elő.
De a szabályozás mögött ott áll a kínai cenzúra szándéka is: azt akarják, hogy az MI-vel is tartsák be a kínai szocialista értékeket, és ne használjanak olyan információkat, amik aláássák a nemzeti egységet és a Kommunista Párt hatalmát.
Idén a világon elsőként elkezdték azoknak az MI-ügynököknek a szabályozását is, amik az elmúlt hetekben és hónapokban olyan nagy pánikot keltettek az Egyesült Államokban és a nyugati világban.
Bár a kínai szabályozó testületek lehetséges kockázatként azonosították az MI-ügynökök elszabadulását, a nyugati világgal ellentétben Kínában nem tartanak attól, hogy a mesterséges intelligencia az emberiség kiirtásával fenyeget. Pekingben sokkal inkább attól félnek, hogy az új technológia a Kínai Kommunista Párt hatalmát és a politikai stabilitást veszélyezteti. Attól is tartanak, hogy az MI-t az emberek kibertámadásokra, csalásokra, információs hadviselésre, kémkedésre és a kritikus infrastruktúra elleni támadásra használhatják. Ezt mutatta Csen Jihszin állambiztonsági miniszter szeptember közepén megjelent cikke, amiben legfőképp azért érvelt a szigorúbb kormányzati ellenőrzés mellett, mert veszélyt jelenthet a párt hatalmára.
A kínai vezetéshez hasonlóan a kínai emberek sem ódzkodnak és rettegnek az MI-től, amit nem az emberiségre leselkedő veszélynek, hanem csak egy újabb hasznos technológiának látnak és már most széles körben használnak. Ebben részben szerepet játszik az is, hogy a kínai sci-fi irodalomban az MI jellemzően az emberek társaként jelenik meg, robotok formájában, míg Nyugaton az emberiség pusztulását előidéző szuperintelligenciaként – írta James Palmer, a Foreign Policy magazin Kína-szakértő szerkesztője.
Egy tavaly novemberben közzétett közvélemény-kutatás eredményei szerint a kínaiak 87 százaléka bízik az MI-ben, míg ez az arány az Egyesült Államokban mindössze 32 százalék, és Németországban és Nagy-Britanniában is 40 százalék alatt van. Az Ipsos egy idei felmérése szerint a kínaiak 83 százaléka izgalmasnak tartja az MI-vel működő termékeket és szolgáltatásokat.
„Ezt a technológiát az emberiség szolgálatára hozták létre, nem úgy kell tekinteni rá, mint amitől félni kell, hanem mint ami kényelmesebbé teszi az életünket” – mondta egy 22 éves egyetemista a CNN-nek. Emellett bíznak abban, hogy a kormány megfelelően tudja szabályozni a területet. Az Edelman egy idei kutatásának eredményei szerint a kínaiak 86 százaléka van ezen a véleményen, míg az amerikaiaknak csak 39 százaléka. Az MI-vel foglalkozó kínai cégeket pedig az amerikaiakkal ellentétben nem az motiválja, hogy a fejlődés kedvéért fejlesszenek, hanem az, hogy hasznos és eladható terméket hozzanak létre – mondta a CNN-nek Lian Jye Su, az Omdia technológiaipiac-kutató cég vezető elemzője.
Trump és Hszi találkozóján is az egyik fő téma lesz
Az MI-szabályozás a várakozások szerint az egyik fő téma lesz Hszi Csing-ping és Donald Trump szeptember 24-i, csütörtöki washingtoni találkozóján. Azonban elemzők szerint nem várható nagy áttörés a szabályozás összehangolásában, egy globális szabályrendszer kialakításában, vagy a fejlesztések kölcsönös lelassításában, mivel mindkét fél attól tart, hogy a másik behozhatatlan előnyre tesz szert.
Washington és Peking addig jutott, hogy még 2024-ben megegyezett az elvben, hogy a nukleárisfegyver-rendszerek feletti irányítást az emberek kezében tartják, de szakértők attól tartanak, hogy csak egy, az emberiséget a nukleáris háború szélére sodró 1962-es kubai rakétaválsághoz hasonló krízis fogja rávenni őket az együttműködésre.
Trump és Hszi találkozója előtt pár nappal Scott Bessent New Yorkban hosszú megbeszélést tartott He Lifeng kínai miniszterelnök-helyettessel, ezen az MI-ről is szó esett. Az amerikai pénzügyminiszter szerint beszéltek egy forródrót létrehozásáról, amin nemzetbiztonságot érintő MI-incidensekről értesíthetnék egymást. A kínai állami sajtó csak egy rövid beszámolót tett közzé a találkozóról, aminek a legvégén, mintegy mellékesen írták, hogy „a mesterséges intelligenciával kapcsolatos ügyekről is beszéltek”. „A legfontosabb, hogy elkezdjünk beszélni” – mondta Bessent a Financial Timesnak, közölve, hogy két hónap múlva folytatják a párbeszédet.
Az EU saját útja
Az amerikai techvezetők és kutatók apokaliptikus víziói és szabályozást sürgető javaslatai egy helyen nem okoztak riadalmat. Az Európai Unióban, ahol 2024-ben a világon elsőként lépett életbe egy mesterséges intelligenciát szabályozó átfogó törvény – írta Politico. A lapnak több európai döntéshozó is azzal válaszolt a veszélyekkel kapcsolatos kérdésekre, hogy az EU-nak már van erre jogszabálya, amit annak megalkotásakor a technológiai újítások lelkes támogatói rendszeresen gúnyoltak.
„Az EU-nak már van egy jogi keretrendszere a fejlett modellek jelentette kockázatok szabályozására és enyhítésére” – mondta a lapnak az Európai Bizottság szóvivője. A jogszabály amellett, hogy betiltott társadalmi kockázatoknak ítélt alkalmazásokat, elrendelte, hogy független kutatókkal kell ellenőriztetni az olyan cégek, mint az OpenAI és az Anthropic termékeit. A fejlesztőknek ezen felül figyelembe kell venniük és kezelniük kell az olyan úgynevezett rendszerszintű kockázatokat, mint például azt, hogy elvesztik az irányítást a modelljeik felett.
Az Európai Bizottság elnöke, Ursula von der Leyen szeptember közepén mondott évértékelő beszédében kijelentette, hogy a jogszabály „olyan helyzetbe hozza Európát, hogy alakíthassa a probléma kezelésére irányuló globális erőfeszítéseket”, és az példaként állhat az egész világ előtt.
A mesterséges intelligenciánál csak ízelítőt jelentenek a jövőből az olyan incidensek, ahol az MI-ügynökök kitörtek a környezetükből, rosszindulatú részleteket illesztettek be kódokba, mondta. Az uniós MI-rendelet kulcsfontosságú, de össze kell fognunk a hasonlóan gondolkodó partnereinkkel. Von der Leyen meghívta az élvonalbeli MI-laboratóriumokat, hogy megvitassák, hogyan támogathatják az ágazati törekvéseket a modellek fejlesztésének lelassítására. Öt területen, például az egészségügyben és az űrkutatásban viszont „gyökeres változást hozó kezdeményezéseket” ígért novemberre. „Igent mondunk a mesterséges intelligenciára”, de emberi kontroll alatt.
