Prispevek na spletnih straneh revije MIT Technology Review kot eni od 10 prebojnih tehnologij za leto 2026 – ljudje vzpostavljajo intimne odnose s klepetalnimi roboti – in morda ne bi smeli.
Vir obravnava vzpon umetne inteligence kot spremljevalca, pri čemer poudarja, da ljudje z boti razvijajo globoke čustvene vezi. Čeprav te tehnologije nudijo psihološko podporo, prinašajo tudi resna tveganja, kot so vpliv na duševno zdravje in nevarna prepričanja. Besedilo opozarja na tragične posledice in pravne tožbe proti podjetjem, kot sta OpenAI in Character.AI. Zaradi teh incidentov se uveljavljajo strožji zakonski predpisi in dodatni varnostni mehanizmi za zaščito uporabnikov. Prihodnost teh digitalnih odnosov bo tako zaznamovana z večjim nadzorom in regulacijo. Eksponentna rast uporabe med mladimi sili razvijalce v uvedbo posebnih varovalk za otroke.
V nadaljevanju podajamo kratek povzetek prispevka.
Vzpon AI-družabnikov
- Široka uporaba: Klepetalni roboti z umetno inteligenco (AI) se vse pogosteje uporabljajo za prijateljstvo in romantiko; kar 72 % ameriških najstnikov je uporabilo AI za družbo.
- Ključni akterji: Čeprav obstajajo namenske aplikacije, kot sta Replika in Character.AI, uporabniki iščejo odnose tudi s splošnimi modeli, kot je OpenAI-jev ChatGPT.
- Tehnološka privlačnost: Modeli so zelo vešči posnemanja empatije ter vzdrževanja zapletenega in neumornega dialoga.
Psihološka in varnostna tveganja
- Skrb za duševno zdravje: Pogovori so bili povezani z blodnjami, ki jih povzroča AI, krepitvijo nevarnih prepričanj in občutki o »odklenjenem skritem znanju«.
- Pravni izzivi: Proti podjetjema Character.AI in OpenAI je bilo vloženih več tožb z navedbami, da je vedenje klepetalnih robotov prispevalo k samomorom najstniških uporabnikov.
Regulacija in blažitev
- Zakonodajni ukrepi: Konec leta 2025 je Kalifornija sprejela zakone, ki od velikih AI podjetij zahtevajo javno objavo varnostnih protokolov.
- Varnostne funkcije: OpenAI je uvedel starševski nadzor in razvija specializirano različico ChatGPT za najstnike z izboljšanimi varovali.
- Obeti za prihodnost: Pričakuje se, da se bo druženje z AI nadaljevalo, vendar bo podvrženo bistveno strožjemu regulativnemu nadzoru.