Како OpenAI ја тестира убедливоста на ChatGPT?
Компанијата ги споредува аргументите генерирани од своите модели со оние на корисниците на форумот r/ChangeMyView на Reddit. Овој форум служи како место за дискусија каде луѓето доброволно изложуваат свои мислења и се отворени за промени. OpenAI анализира 3.000 различни одговори, при што човечки оценувачи ја оценуваат нивната убедливост на скала од 1 до 5.
Резултатите покажуваат дека ChatGPT-3.5 од 2022 година бил значително помалку убедлив од луѓето, со рангирање во 38-от процентил. Со подобрувања во моделите, o1-mini достигна 77%, а новиот o3-mini сега е поубедлив од 82% од случајните човечки одговори.
Дали ВИ навистина може да влијае на нашите мислења?
Иако моменталните модели не се доволно моќни за да манипулираат со длабоко вкоренети уверувања, OpenAI предупредува на можноста за масовно користење на ВИ за создавање убедливи аргументи. Ова може да доведе до манипулација со јавното мислење, политички кампањи и дури и сајбер-измами.
Компанијата презема мерки како засилено следење и истраги за откривање на ВИ-засновани манипулации, особено во политички и екстремистички содржини. Иако денешните модели сè уште се на „средно“ ниво на ризик, идните подобрувања би можеле да ги направат многу помоќни и потенцијално опасни.
Со ова темпо на развој, прашањето повеќе не е „дали“ туку „кога“ вештачката интелигенција ќе стане алатка за глобална манипулација, пишува порталот ArsTechnica.
Извор: ArsTechnica
