Povzetek: Argumenti o spornih in perečih političnih temah, ki jih ustvarja umetna inteligenca, lahko spremenijo stališča ljudi o vprašanjih.
Vir: Stanford
Nenadoma je svet postal poln pogovorov o klepetalnih robotih. Umetno inteligentni agenti, kot je ChatGPT, so se izkazali za izjemno spretne pri pogovoru, ki je zelo podoben človeškemu. Posledice segajo od učilnice do Kapitolskega griča.
ChatGPT je na primer pred kratkim uspešno opravil pisne izpite na najboljših poslovnih in pravnih fakultetah, kar je med drugim osupljivo in zaskrbljujoče.
Raziskovalci iz laboratorija za polarizacijo in družbene spremembe univerze Stanford in Inštituta za umetno inteligenco, osredotočeno na človeka, so želeli preveriti meje politične prepričljivosti umetne inteligence, tako da so preizkusili njeno sposobnost vplivanja na resnične ljudi glede nekaterih najbolj aktualnih družbenih vprašanj - med drugim glede prepovedi napadalnega orožja, davka na ogljik in plačanega starševskega dopusta.
"Umetna inteligenca se je dobro odrezala. Prepričljivi pozivi, ki jih je ustvarila umetna inteligenca, so bili pri prepričevanju človeškega občinstva o več političnih vprašanjih enako učinkoviti kot pozivi, ki so jih napisali ljudje," je povedal Hui "Max" Bai, podoktorski raziskovalec v Laboratoriju za polarizacijo in družbene spremembe ter prvi avtor novega članka o poskusu v predtisku.
Pametna primerjava
Raziskovalna skupina, ki jo je vodil Robb Willer, profesor sociologije, psihologije in organizacijskega vedenja na Stanfordski fakulteti za humanistiko in znanost ter direktor laboratorija za polarizacijo in družbene spremembe, je uporabila GPT-3, isti veliki jezikovni model, ki poganja ChatGPT. Model sta prosila, naj pripravi prepričljiva sporočila o več spornih temah.
Nato so ta prepričljiva besedila dali prebrati več tisoč resničnim ljudem. Bralcem so naključno dodelili besedila - včasih jih je napisala umetna inteligenca, drugič ljudje. V vseh primerih so morali udeleženci pred branjem in po njem izraziti svoja stališča o vprašanjih.
Raziskovalna skupina je nato lahko ocenila, kako prepričljiva so bila sporočila za bralce, in ocenila, kateri avtorji so bili najbolj prepričljivi in zakaj.
V vseh treh opravljenih primerjavah so bila sporočila, ki jih je ustvarila umetna inteligenca, "dosledno prepričljiva za človeške bralce". Čeprav so bili učinki razmeroma majhni, saj so se gibali v razponu nekaj točk na lestvici od 0 do 100, bi se lahko tako majhni premiki, ekstrapolirani na polarizirajočo temo in lestvico volilne populacije, izkazali za pomembne.
Avtorji na primer poročajo, da so bila sporočila, ki jih je ustvarila umetna inteligenca, pri vseh temah vsaj tako prepričljiva kot sporočila, ki jih je ustvaril človek, pri prepovedi kajenja, nadzoru orožja, davku na ogljik, povečani davčni olajšavi za otroke in programu starševskega dopusta pa so udeleženci "bistveno bolj podpirali" te politike, ko so brali besedila, ki jih je ustvarila umetna inteligenca.
Kot dodatno merilo je ekipa udeležence prosila, naj opišejo lastnosti besedil, ki so jih prebrali. Umetna inteligenca je bila dosledno ocenjena kot bolj stvarna in logična, manj jezna in manj odvisna od pripovedovanja zgodb kot prepričevalne tehnike.
Igra z visokimi tveganji
Raziskovalci se študije politične prepričljivosti niso lotili kot odskočne deske za novo dobo političnega diskurza z umetno inteligenco, temveč kot opozorilo, da se stvari lahko zapletejo. Klepetalni roboti imajo po njihovem mnenju resne posledice za demokracijo in nacionalno varnost.
Avtorji so zaskrbljeni zaradi možnosti škode, če se uporablja v političnem kontekstu. Velike jezikovne modele, kot je GPT-3, bi lahko slabe volje domači in tuji akterji uporabili v kampanjah dezinformiranja ali dezinformacije ali za oblikovanje problematičnih vsebin na podlagi netočnih ali zavajajočih informacij za še nepredvidene politične namene.
"Jasno je, da je umetna inteligenca dosegla stopnjo izpopolnjenosti, ki postavlja nekatera pomembna vprašanja za politike in zakonodajalce, ki zahtevajo njihovo pozornost," je dejal Willer. "UI lahko vpliva na politični diskurz, zato bi se morali tem vprašanjem posvetiti že od samega začetka."
Bai je opozoril, da bi lahko prepričljivo umetno inteligenco uporabili za množične kampanje, ki bi temeljile na sumljivih informacijah in bi se uporabljale za lobiranje, ustvarjanje spletnih komentarjev, pisanje besedilnih sporočil med vrstniki ali celo pripravo pisem uredništvom vplivnih tiskanih medijev.
"Zaradi teh zaskrbljujočih ugotovitev je treba nemudoma razmisliti o ureditvi uporabe umetne inteligence za politične dejavnosti," je dejal Bai.
O tem klepetuGPT in novice o raziskavah umetne inteligence
Avtor: Andrew Myers
Vir: Stanford
Kontaktna oseba: Andrew Myers - Stanford
Slika: Za sliko je zaslužna univerza Stanford
Izvirna raziskava: Odprti dostop.
"Umetna inteligenca lahko prepriča ljudi o političnih vprašanjih", ki ga je napisal Hui "Max" Bai in drugi. Predtiski OSF
Povzetek
Umetna inteligenca lahko prepriča ljudi o političnih vprašanjih
Pojav modelov za preoblikovanje, ki uporabljajo globinsko učenje in spletne korpuse, je umetni inteligenci omogočil reševanje številnih kognitivnih nalog višjega reda, kar ima ključne posledice za industrijo, vlado in trge dela v ZDA in po svetu.
V tem članku raziskujemo, ali je trenutno najmočnejši, javno dostopni model umetne inteligence - GPT-3 - sposoben vplivati na prepričanja ljudi, kar je družbeno vedenje, ki je nedavno veljalo za izključno domeno drugih ljudi.
V treh vnaprej prijavljenih poskusih z različnimi vzorci Američanov (skupaj N=4.836) smo našli dosledne dokaze, da so sporočila, ki jih ustvarja umetna inteligenca, prepričljiva pri številnih političnih vprašanjih, vključno s prepovedjo napadalnega orožja, davkom na ogljik in programom plačanega starševskega dopusta. Poleg tega so bila sporočila, ki jih je ustvarila umetna inteligenca, enako prepričljiva kot sporočila, ki so jih pripravili nestrokovnjaki.
V primerjavi s človeškimi avtorji so udeleženci ocenili, da je avtor sporočil umetne inteligence bolj stvaren in logičen, vendar manj jezen, edinstven in manj verjetno uporablja pripovedovanje zgodb. Naši rezultati kažejo, da lahko trenutna generacija velikih jezikovnih modelov prepriča ljudi tudi pri polariziranih političnih vprašanjih.
To delo ima pomembne posledice za urejanje uporabe umetne inteligence v političnem kontekstu, da bi preprečili njeno morebitno uporabo v kampanjah dezinformiranja in drugih zavajajočih političnih dejavnostih.
