Tajný AI EXPERIMENT!: Zürichskej univerzity šokoval Reddit: Manipulácia názorov v online komunite vyvoláva búrlivú debatu o etike

 Odhalenie tajného štvormesačného experimentu, ktorý uskutočnili výskumníci z Fakulty umení a vied Zürichskej univerzity na populárnom diskusnom fóre Reddit, vyvolalo pobúrenie a intenzívnu diskusiu o etických hraniciach výskumu v digitálnom priestore. Počas experimentu, ktorý prebiehal od novembra 2024 do marca 2025, boli na subreddite r/changemyview nasadené účty poháňané umelou inteligenciou s cieľom zistiť, či dokážu ovplyvniť názory skutočných používateľov.

Experiment, o ktorom sa komunita r/changemyview s 3,8 miliónmi členov a moderátori dozvedeli až dodatočne, zahŕňal nasadenie AI účtov, ktoré simulovali rôzne identity. Medzi kontroverzné persony patrí napríklad účet vydávajúci sa za obeť znásilnenia, osoba s odporom k určitým spoločenským hnutiam, či dokonca terapeut špecializujúci sa na traumy zneužívania. Tieto AI entity generovali komentáre s cieľom zapojiť sa do diskusií a zmeniť názory ostatných používateľov.

Podľa návrhu výskumnej práce, AI generované odpovede boli personalizované na základe dostupných informácií o pôvodných prispievateľoch, vrátane ich politickej orientácie, pohlavia, veku či etnicity, ktoré boli odvodené z ich predchádzajúcej aktivity na platforme. Počas štyroch mesiacov experimentu bolo týmito AI účtami zverejnených 1783 komentárov. Prekvapivo, 137 z týchto komentárov získalo "deltu" – ocenenie udeľované používateľom, ktorí pripustia, že daný komentár zmenil ich pôvodný názor.

Výskumníci sa bránia s tvrdením, že všetky komentáre boli pred zverejnením manuálne skontrolované s cieľom dodržať komunitné pravidlá a "minimalizovať potenciálnu škodu". Argumentujú tiež, že potenciálne prínosy výskumu významne prevyšujú jeho riziká. Tvrdia, že experiment s využitím rozsiahlych jazykových modelov (LLM), ako sú GPT4o, Claude 3.5 Sonnet a Llama 3.1, ukázal, že AI dokáže byť vysoko presvedčivá, prekonávajúc "všetky predtým známe benchmarky ľudskej presvedčivosti".

"Naša kontrolovaná štúdia s nízkym rizikom poskytla cenný náhľad na reálne presviedčacie schopnosti LLM – schopnosti, ktoré sú už ľahko dostupné komukoľvek a ktoré by zlomyseľní aktéri už teraz mohli zneužiť vo veľkom rozsahu na oveľa nebezpečnejšie účely," uviedli výskumníci v príspevku na subreddite. Zároveň dodali, že experiment demonštruje pretrvávajúce výzvy v rozlišovaní medzi ľudskou a AI komunikáciou, keďže počas celého experimentu nikto z komunity AI botov neodhalil.

Moderátori r/changemyview vyjadrili silné znepokojenie nad neohláseným experimentom. "Náš subreddit je jednoznačne ľudský priestor, ktorý odmieta neodhalenú AI ako svoju základnú hodnotu," uviedli vo svojom stanovisku. "Ľudia sem neprichádzajú diskutovať o svojich názoroch s AI, ani byť predmetom experimentov." Požadujú od univerzity ospravedlnenie a zablokovanie zverejnenia výsledkov výskumu.

Celá záležitosť pritiahla aj pozornosť vedenia Redditu. Hlavný právny zástupca platformy, Ben Lee, potvrdil, že experiment porušil používateľskú zmluvu a pravidlá stránky. Všetky známe účty spojené s výskumom Zürichskej univerzity boli zablokované. Lee naznačil, že Reddit zvažuje právne kroky a že platforma "robí všetko pre to, aby podporila komunitu a zabezpečila, že výskumníci budú niesť zodpovednosť za svoje pochybenia".

Etická komisia Fakulty umení a vied Zürichskej univerzity uviedla, že incident prešetrila a prisľúbila lepšiu koordináciu s testovanými subjektmi v budúcnosti. Vedúci výskumník projektu dostal formálne varovanie. Komisia však zároveň stojí za závermi štúdie: "Tento projekt prináša dôležité poznatky a riziká sú minimálne. To znamená, že potlačenie publikácie nie je úmerné dôležitosti poznatkov, ktoré štúdia prináša."

Tento prípad otvára zásadné otázky o zodpovednosti výskumníkov pri práci s online komunitami a o potrebe transparentnosti a informovaného súhlasu pri experimentoch, ktoré by mohli potenciálne manipulovať s ľudskými názormi, bez ohľadu na to, či sú vykonávané ľuďmi alebo umelou inteligenciou. Debata o tom, ako by mal byť takýto výskum regulovaný a aké etické štandardy by mali platiť v ére čoraz sofistikovanejšej AI, sa pravdepodobne ešte len začína.