Švedski premijer kritiziran zbog korištenja ChatGPT-a u donošenju vladinih odluka

Švedski premijer Ulf Kristersson suočio se s kritikama nakon što je priznao da koristi ChatGPT za generiranje ideja za vladine odluke.

Švedski premijer Ulf Kristersson suočava se s rastućim javnim nezadovoljstvom nakon što je otkrio da koristi ChatGPT i LeChat za pomoć u svom službenom procesu donošenja odluka.

“Ja ga često koristim. Ako ni za što drugo, onda barem za drugo mišljenje,” rekao je Kristersson, kako je izvijestio The Guardian. “Što su drugi napravili? I trebamo li razmišljati posve suprotno? Takva vrsta pitanja.”

Njegova izjava izazvala je negativne reakcije, s Aftonbladetom koji ga optužuje da je pao na “psihozu AI oligarha”, kako je izvijestio The Guardian. Kritičari tvrde da se oslanjanje na AI za politički sud smatra i neodgovornim i nedemokratskim.

“Moramo zahtijevati da se pouzdanost može jamčiti. Nismo glasali za ChatGPT,” rekla je Virginia Dignum, profesorica odgovornog AI na Sveučilištu Umeå.

Kristerssonov glasnogovornik, Tom Samuelsson, umanjio je kontroverziju, rekavši: “Naravno da tamo ne završavaju sigurnosno osjetljive informacije. Više se koristi kao okvirna procjena,” kako je izvijestio The Guardian.

No, stručnjaci za tehnologiju kažu da rizici nadmašuju pitanje osjetljivosti podataka. Profesorica na Sveučilištu Karlstad, Simone Fischer-Hübner, savjetuje protiv korištenja ChatGPT-a i sličnih alata za službene radne zadatke, kako je napomenuto u The Guardianu.

Istraživač AI-a David Bau upozorio je da se AI modeli mogu manipulirati. “Pokazali su način na koji ljudi mogu potajno ubaciti svoje skrivene agende u podatke za treniranje što bi bilo vrlo teško detektirati.” Istraživanje pokazuje 95% uspješnosti u obmanjivanju AI sustava koristeći ubrizgavanje memorije ili napade “Rules File Backdoor“, što izaziva strahove o nevidljivom miješanju u političko donošenje odluka.

Daljnje opasnosti proizlaze iz potencijala umjetne inteligencije da narušava demokraciju. Nedavna studija upozorava da AI sustavi u provođenju zakona koncentriraju moć, smanjuju nadzor i mogu poticati autoritarizam.