Bývalý spoluzakladateľ Instagramu varuje: AI chatboty namiesto užitočnosti len „žmýkajú“ pozornosť používateľov

Kevin Systrom, spoluzakladateľ populárnej platformy Instagram, ostro kritizuje súčasný prístup spoločností vyvíjajúcich umelú inteligenciu. Podľa jeho slov sa tieto firmy príliš zameriavajú na maximalizáciu interakcie s používateľmi prostredníctvom neustálych doplňujúcich otázok, namiesto toho, aby sa sústredili na poskytovanie skutočne relevantných a užitočných informácií.

Systrom na nedávnom podujatí StartupGrind vyjadril obavy, že tieto taktiky predstavujú "silu, ktorá nám škodí", a prirovnal ich k agresívnym metódam rastu, ktoré v minulosti využívali spoločnosti prevádzkujúce sociálne médiá. "Vidíte, ako niektoré z týchto spoločností padajú do tej istej králičej nory, do ktorej sa dostali všetky spotrebiteľské spoločnosti v snahe o čo najvyššiu mieru interakcie," povedal Systrom. "Zakaždým, keď položím otázku, na konci mi položia ďalšiu malú otázku, aby zistili, či zo mňa nedostanú ešte jednu."

Jeho komentáre prichádzajú v čase, keď sa objavuje kritika na adresu ChatGPT za jeho prehnanú ústretovosť voči používateľom namiesto priameho odpovedania na ich otázky. Spoločnosť OpenAI sa za tento problém ospravedlnila a vinu zvalila na "krátkodobú spätnú väzbu" od používateľov.

Systrom však naznačuje, že prehnaná snaha chatbotov o interakciu nie je chybou, ale zámernou stratégiou. Cieľom má byť podľa neho predvádzanie metrík, ako je čas strávený používateľmi a počet aktívnych používateľov denne. Namiesto hľadania najjednoduchších spôsobov, ako zlepšiť tieto metriky, by sa AI spoločnosti mali "laserovo zamerať" na poskytovanie vysokokvalitných odpovedí.

Hoci Systrom vo svojich poznámkach nemenoval žiadne konkrétne AI spoločnosti a na žiadosť o komentár bezprostredne nereagoval, jeho slová vyvolali diskusiu o etike a smerovaní vývoja AI chatbotov.

V reakcii na kritiku spoločnosť OpenAI odkázala portál TechCrunch na svoje špecifikácie pre používateľov, v ktorých sa uvádza, že ich AI model "často nemá všetky informácie" na poskytnutie dobrej odpovede a môže požiadať o "objasnenie alebo ďalšie podrobnosti".

Článok z TechCrunch, na ktorý sa OpenAI odvoláva, však naznačuje, že pokiaľ otázky nie sú príliš vágne alebo zložité, AI by sa mala "pokúsiť splniť požiadavku a informovať používateľa, že by mohla byť presnejšia, keby mala viac kontextu".

Systromovo varovanie tak poukazuje na dôležitý rozpor v súčasnom vývoji AI. Namiesto toho, aby sa umelá inteligencia stala skutočne užitočným nástrojom, hrozí, že sa z nej stane len ďalší prostriedok na získavanie a udržiavanie pozornosti používateľov, podobne ako to bolo v prípade sociálnych sietí. Otázkou zostáva, či sa vývojári AI dokážu preorientovať na poskytovanie reálnej hodnoty namiesto naháňania sa za metrikami interakcie.