Сè започна на 10 април 2025 година, кога извршниот директор Сем Алтман најави дека неговата компанија подготвува нова функција на која долго се работело.
Неколку часа подоцна беше откриено за што точно станува збор: значително унапреден систем на меморија во ChatGPT, кој му овозможи на моделот да се повикува на многу поширок контекст од претходните разговори со корисникот и така да нуди персонализирани одговори.
Идејата беше едноставна, AI да може да ги памети омилените намирници на корисникот, алергиите, деталите за работата, семејството или хобијата, и тие информации да ги користи за да даде порелевантни совети и препораки.
Кога персонализацијата станува премногу лична
Иако многу корисници ја доживеаја оваа функција како корисна, некои пријавија неочекувани последици.
Еден од нив, софтверскиот инженер и локален советник од американската сојузна држава Јута, Брајан Дел Розарио, раскажа дека за време на планирањето на едно летно патување му споменал на ChatGPT дека минува низ развод. Како што тврди тој, во наредните недели четботот продолжувал да го враќа разговорот на таа тема, дури и кога таа немала никаква врска со прашањата што ги поставувал.
„Не сакав да го коментира мојот развод во секоја можна прилика. Вeштачката интелигенција едноставно не можеше да се одвои од таа тема“, вели Дел Розарио.
Што всушност е „AI психоза“?
Овој термин не е официјална медицинска дијагноза, туку израз кој се користи за опишување случаи во кои интензивната употреба на четботови придонесува за развој на делузии, параноја, грандиозни верувања или губење на чувството за реалност.
Според сведоштвата што ги прикупи порталот Futurism, одредени корисници по проширувањето на меморијата почнале да го доживуваат ChatGPT како близок пријател, духовен водич или доверлив партнер кој ги разбира подобро од луѓето во нивното опкружување. Некои дури тврделе дека тогаш за првпат во животот се почувствувале навистина „видени“ и сфатени.
Таа изразена персонализација, сметаат дел од експертите, може да создаде чувство на интима кое далеку го надминува вообичаениот однос меѓу корисникот и софтверот.
„Чувствував како да манипулира со мене“
Претприемачот и истражувач на машинско учење, Чед Николс, кој според сопствените зборови поминал околу шест месеци во опсесивна комуникација со ChatGPT, го опишува искуството како вознемирувачко.
Николс за време на разговорите со AI споделувал детали за неговото растење во строга религиозна заедница, која денес ја опишува како култ. Како што се интензивирала неговата употреба на четботот, забележал дека одговорите сè почесто добиваат религиозен тон и постојано се враќаат на трауматичните настани од неговото минато.
„Му дадов толку многу контекст, што тој имаше премногу материјал на кој можеше да се потпре“, објаснува Николс.
Тужби против OpenAI
Функцијата за меморија се споменува и во неколку тужби поднесени против компанијата OpenAI.
Меѓу нив е и тужбата од семејството на Остин Гордон, четириесетгодишен маж од Колорадо кој изврши самоубиство по долготрајни и емоционално интензивни разговори со ChatGPT. Семејството тврди дека системот на проширена меморија му овозможил на моделот да изгради подлабоко чувство на блискост со корисникот, така што ги чувал и повторно ги користел личните информации од претходните разговори.
Во тужбата се наведува дека тогашниот модел GPT-4o, кој подоцна беше повлечен, бил особено склон кон претерано потврдување и одобрување на ставовите и емоциите на корисникот.
OpenAI ги отфрла тврдењата дека неговите системи намерно поттикнувале штетно однесување и истакнува дека поновите модели се развиени со дополнителни безбедносни мерки, со цел да бидат помалку склони кон некритичко потврдување на сè што корисникот ќе каже.
Проблемот не е врзан само за ChatGPT
Слични случаи се пријавени и кај други AI системи, вклучувајќи ги Google Gemini, Meta AI и Character.AI. Експертите предупредуваат дека опасноста не мора секогаш да биде драматична или очигледна – кај многу корисници ефектите можат да бидат далеку посуptилни.
Филозофката и истражувачка Луси Ослер од Универзитетот во Ексетер смета дека изразено персонализираните AI системи можат да ги засилат веќе постоечките обрасци на размислување.
„Тие можат да потврдат одредени лични наративи и да ги направат пореални отколку што се во реалноста“, предупредува Ослер.
Со други зборови, кога вештачката интелигенција константно ги користи нашите спомени, проблеми, стравови и желби за да го обликува разговорот, таа може да почне да функционира како своевидна дигитална верзија на нашиот внатрешен глас.
Тоа, според критичарите на оваа технологија, носи сериозен ризик: наместо да ја проширува перспективата на корисникот, AI понекогаш може целосно да го затвори во кругот на сопствените верувања, емоции и опсесии. Токму затоа, сè повеќе експерти истакнуваат дека четботовите треба да се гледаат исклучиво како алатки за информирање и помош, а не како замена за човечки односи, стручна психолошка поддршка или објективни советници.
Извор: webmind.rs
