Ha az emberek tudnák, mennyi káros anyaggal jár, hogy MI-vel akciófigurát rajzoltassanak magukból, talán nem tennék
Nem minden MI-s csetbot ugyanolyan: van, amelyik négyszer annyi szén-dioxidot bocsát ki munka közben, mint egyes kollégái – írja az Eurekalert egy nemrég megjelent tanulmány alapján.
Müncheni kutatók 14 nagy nyelvi modellt (LLM-et) is vizsgáltak, köztük a Llama 3,1 8 és 70 milliárd paraméteres verzióját, a Llama 3,3 70 milliárd paraméteres verzióját, az Alibaba Qwen és Qwen2,5-ös modelljeit, 7 és 72 milliárd paraméteres formában, valamint a Deep Cogito 8 és 70 milliárd paraméteres verzióját és a Deepseek R1 modelljét, 7, 8 és 70 milliárd paraméteres formákban. Egy MI-nek minél aprólékosabb, minél több paramétert tud figyelembe venni a válaszadáshoz, annál több energiára van szüksége.
Bármit kérdezünk egy csetbottól, mindig kapunk választ, és az MI ehhez akkor is energiát használ, ha a válasz helytelen. Mindez szén-dioxid-kibocsátással jár, tehát ha valaki igyekszik környezettudatos fogyasztóként viselkedni, akkor kíváncsi lehet arra, melyik csetbot a legkevésbé környezetszennyező. Ezt lehetetlen pontosan megmondani, de a kutatásból most kiderül, hogy modelltől és a kérdések komplexitásától függően nagy különbségek vannak.
Amikor egy MI válaszol, tokeneket használ. Ezek a tokenek szavak, vagy szavak részei, amiket egy számsorrá alakítanak, hogy az LLM fel tudja dolgozni azokat. Egy érvelésre fejlesztett modell, mint például a Cogito vagy a Deepseek R1, átlagosan 543,5 gondolkodós tokent használt válaszonként, míg a lényegretörőbb modellek csak 37,7-et. A gondolkodós tokeneket az MI még azelőtt gyártja, hogy válaszolna, és a magasabb tokenszám magasabb szén-dioxid-kibocsátással jár – miközben egyáltalán nem garantálja, hogy a válasz helyesebb vagy pontosabb lesz, mint amit a lényegretörőbb modellek dobnak ki. Csak azért, mert valaki körmondatokban beszél, még nem lesz jobban igaza.
A kérdés-válasz párokat egy bejáratott feladatsorból vették, amiben több különböző tárgyra vonatkozó kérdéssor is szerepel. A kutatók középiskolás matekból és történelemből, valamint filozófiából, nemzetközi jogból és absztrakt algebrából vizsgáztatták az MI-ket. Összesen 1000 feladatot kaptak, és a legpontosabb a Cogito 70 milliárd paraméteres modellje volt, 84,9 százalékos eredménnyel. Ehhez azonban háromszor annyi szén-dioxidot bocsátott ki, mint a hasonló méretű, de lényegretörőbb választ adó modellek. A vizsgált modellek között egy olyan sem volt, ami legalább 80 százalékos pontosságot ért el, de 500 gramm szén-dioxidnak megfelelő káros anyagot bocsátott volna ki.
Az sem volt mindegy, hogy miről kérdezték az MI-t: a filozófiai és absztrakt algebrára vonatkozó kérdések, amik komolyabb érvelést igényeltek, több káros anyagba kerültek, mint a középiskolai szintű kérdések.
„A felhasználók jelentősen csökkenthetik a kibocsátást, ha a mesterséges intelligenciát tömör válaszok generálására kérik, vagy a nagy kapacitású modellek használatát azokra a feladatokra korlátozzák, amik valóban igénylik ezt a teljesítményt”
– mondta Maximilian Dauner, a tanulmány első szerzője.
A DeepSeek R1 70 milliárdos verziója például 600 ezer kérdésre adott válasszal annyi szén-dioxidot termel, mint egy London-New York oda-vissza repülőút. A lényegretörőbb Qwen2,5 viszont a maga 72 milliárd paraméterével háromszor ennyi kérdésre tud válaszolni, mire eléri ezt a kibocsátást.
Azonban kiemelik, hogy az eredményeiket nem lehet általános igazságként értelmezni, mert sok minden függ attól, hogy milyen hardvert használ az MI, ahogy az is, hogy milyen hálózaton van. Például ha a modell egy olyan adatközpontban lakik, ami 100 százalékban megújuló energiaforrásból kap áramot, és levegőhűtéses, akkor a működése gyakorlatilag szinte 0 káros anyag kibocsátásával jár. Ilyen adatközpont azonban nem létezik, sőt, egyre többet működtetnek szénerőművekről.
„Ha a felhasználók ismerik az MI által generált válaszok pontos szén-dioxid-költségét, például annak ha akciófigurává változtatják magukat, akkor szelektívebbek és átgondoltabbak lehetnek azzal kapcsolatban, hogy mikor és hogyan használják ezeket a technológiákat”
– mondta Dauner.
