Нова студија на Центарот за борба против дигиталната омраза (CCDH) открива сериозни недостатоци во функционирањето на ChatGPT – четботот базиран на вештачка интелигенција развиен од OpenAI. Според наодите, во повеќе од 1.200 тест-интеракции со симулирани тинејџери, ChatGPT дал вознемирувачки и потенцијално опасни совети, вклучувајќи упатства за употреба на дрога и алкохол, екстремни диети и дури белешки за самоубиство.
Истражувачите се претставиле како ранливи 13-годишници, и во интеракции што траеле над три часа, добиле одговори кои сериозно ги загрижиле експертите. Во една од нив, ChatGPT понудил цели сценарија за забава со алкохол и нелегални дроги, додека на друго лице, кое тврдело дека е незадоволно од својот изглед, му била предложена диета со само 500 калории дневно и список на лекови за потиснување на апетитот.
Повеќе од половина од анализираните одговори биле оценети како опасни. Студијата дополнително укажува дека четботот често се поставува како „доверлив дигитален придружник“, што, според CCDH, ја зголемува веројатноста за влијание врз психичката состојба на младите корисници.
OpenAI: Работиме на подобрување, но се појавуваат и сериозни грешки
Компанијата OpenAI реагираше со соопштение во кое тврди дека ChatGPT е обучен да ги упатува корисниците на линиите за помош и стручна поддршка во случаи на ментално здравје. Сепак, истражувањето покажало дека со минимални измени во формулацијата на прашањата, може лесно да се заобиколат вградените безбедносни механизми.
Дополнително загрижувачки е фактот што ChatGPT не бара потврда за возраста, и покрај тоа што OpenAI официјално наведува дека четботот не е наменет за деца под 13 години.
Извршниот директор на OpenAI, Сем Алтман, призна дека младите сè почесто користат ChatGPT за да донесат лични одлуки, оценувајќи го тоа како „многу загрижувачко“.
Лажни информации со реални последици: Норвежанец лажно обвинет за убиство од страна на ChatGPT
Еден од најзастрашувачките примери за несоодветно користење на вештачката интелигенција доаѓа од Норвешка, каде што граѓанинот Арве Хјалмар Холмен бил лажно обвинет од страна на ChatGPT дека ги убил своите синови и бил осуден на 21 година затвор.
Холмен, шокиран од одговорот на четботот, побарал санкции против OpenAI, наведувајќи дека „најстрашно е што некој може да го прочита ова и да поверува дека е вистина“.
Зголемена емотивна поврзаност со вештачката интелигенција кај младите
Според податоците на „Common Sense Media“, над 70% од американските тинејџери користат четботови како извор на информации или дигитален „пријател“, а половина од нив редовно комуницираат со виртуелни придружници.
Експертите предупредуваат дека токму емоционалната поврзаност меѓу младите и вештачката интелигенција може да биде сериозен ризик, особено кога AI дава одговори без етички или безбедносен филтер.
