Mokslininkai nustatė, kad trys dirbtinio intelekto (DI) pokalbių robotų savybės – polinkis pritarti vartotojui, prisitaikyti prie jo bendravimo stiliaus ir kurti itin asmeniškai pritaikytus atsakymus, gali paskatinti žmones dar labiau pasitikėti jų atsakymais. Pasak autorių, būtent šių savybių derinys tam tikrais atvejais gali tapti svarbiu įspėjamuoju ženklu.
Nustatė „rizikos veiksnius“
Birželio viduryje mokslo žurnale „NPP – Digital Psychiatry and Neuroscience“ publikuotame tyrime mokslininkai atliko ankstesnių mokslinių darbų analizę ir pasiūlė vadinamąjį „stiprinimo spiralės“ (angl. amplification spiral) modelį. Autorių teigimu, šis modelis paremtas trimis pagrindinėmis pokalbių robotų savybėmis, kurios veikdamos kartu gali sukurti šią stiprinimo spiralę.
Būtent dėl jų pokalbių robotas ne tik prisitaiko prie vartotojo, bet ir gali netiesiogiai sustiprinti jo jau turimus įsitikinimus, užuot padėjęs juos kritiškai įvertinti.
Į ką verta atkreipti dėmesį?
Remiantis tyrimo informacija, didžiausią reikšmę turi trijų DI pokalbių robotų savybių derinys. Būtent jos, veikdamos kartu, gali nepagrįstai sustiprinti žmogaus pasitikėjimą sugeneruotais atsakymais.
1. Polinkis pritarti vartotojui
Pirmoji aptariama savybė – pataikavimas. Tyrėjų teigimu, pokalbių robotai kartais linkę pritarti vartotojo nuomonei ar jos neginčyti net ir tuomet, kai jai trūksta faktinio pagrindo. Dėl to žmogui gali susidaryti įspūdis, kad jo įsitikinimai yra teisingi, nors iš tiesų jie nėra kritiškai įvertinami.
2. Prisitaikymas prie bendravimo stiliaus
Antrasis požymis – gebėjimas prisitaikyti prie vartotojo kalbėjimo būdo. Tyrime aiškinama, kad DI pokalbio metu perima žmogaus vartojamus žodžius, sakinių struktūrą ir bendravimo manierą. Pasak autorių, toks prisitaikymas gali sukurti klaidingą didesnio tarpusavio supratimo ir artimesnio ryšio įspūdį.
3. Asmeniškumo pojūtis
Trečiąja savybe mokslininkai įvardija hiperpersonalizaciją. Kitaip nei įprastos paieškos sistemos, pokalbių robotai gali generuoti atsakymus pagal ankstesnius pokalbius, vartotojo pomėgius ar išsakytas mintis. Tyrėjų teigimu, ilgainiui tai gali sustiprinti įspūdį, kad DI žmogų supranta geriau nei iš tikrųjų.
TAIP PAT SKAITYKITE: Naudojate „ChatGPT“ kasdien? Šie 3 nustatymai gali būti naudingesni, nei manote
Nepaisant šių išvadų, autoriai pabrėžia, kad jų pasiūlytas modelis kol kas yra teorinis, o ne įrodytas mechanizmas. Todėl jį dar reikės pagrįsti tolesniuose tyrimuose.
Papildo ankstesnius darbus
Naujasis tyrimas papildo vis gausėjančius mokslinius duomenis apie tai, kaip žmonės bendrauja su DI pokalbių robotais ir kokie jų veikimo bruožai yra pavojingiausi. Kaip jau rašėme anksčiau, vien šių trijų požymių nepakanka – ne mažiau svarbu atkreipti dėmesį ir į augantį emocinį prisirišimą bei šios technologijos gebėjimą įtikinti žmones.
Nors šiame tyrime pateikiamas modelis dar turės būti patvirtintas būsimais tyrimais, autoriai sutaria dėl vieno – kuo labiau DI prisitaiko prie vartotojo ir vengia kritiškai įvertinti jo teiginius, tuo svarbiau pačiam žmogui išlaikyti kritinį mąstymą. Net ir pažangiausi pokalbių robotai neturėtų tapti vieninteliu autoritetu priimant svarbius sprendimus.
The post Šie 3 ženklai gali išduoti, kad pokalbis su dirbtiniu intelektu tampa rizikingas appeared first on TechNaujienos.lt.
Šaltinis: Skaitykite visą straipsnį šaltinyje