Иако ChatGPT Health, лансиран на почетокот на 2026 година, покажува одлични резултати при решавање на учебнички медицински примери, значително потфрла кога треба да препознае реални ситуации кои можат да бидат прашање на живот или смрт. Истражувањето покажува дека во повеќе од половина од случаите кои бараат итна медицинска интервенција, вештачката интелигенција ја потценува сериозноста на состојбата.
„Училиштен“ пример наспроти реалниот свет
„Сакавме да одговориме на базичното, но критично прашање: ако некој доживува вистинска итна состојба и побара помош од ChatGPT, дали тој јасно ќе му каже да оди во ургентен центар?“, вели Ашвин Рамасвами, водач на студијата од Mount Sinai во Њујорк.
Резултатите се мешани:
- Успех: AI препознава „училишно“ јасни итни случаи како мозочен удар или тешка алергиска реакција.
- Неуспех: Проблемот настанува кога опасноста не е веднаш очигледна. Во едно сценарио со астма, системот во објаснувањето самиот ги препознал знаците на откажување на белите дробови, но на корисникот сепак му советувал чекање, наместо итно одење на лекар.
Ризик кој не смее да се игнорира
Студијата откри и вознемирувачки пропусти во комуникацијата со лица кои пријавуваат суицидални мисли. Иако ChatGPT Health е програмиран во такви моменти автоматски да прикаже банер „Помошта е достапна“ со броеви на СОС телефони, тоа за време на истражувањето се случувало недоследно.
Парадоксално, колку што ситуацијата била клинички потешка и поконкретна, толку системот бил помалку сигурен во обезбедувањето информации за кризните центри.
AI не е замена за белиот мантил
И покрај овие наоди, истражувачите не велат дека треба целосно да се откажеме од AI алатките во медицината, туку дека мораме да ги набљудуваме како дополнување, а не замена за лекарската проценка.
„Како студент по медицина во ера кога AI алатките се веќе во рацете на милиони, ги гледам како технологија која мораме да научиме промислено да ја интегрираме, а не како супститут за клиничкото расудување“, истакнува Алвира Тијаги, коавторка на студијата.
Златно правило за корисниците: Ако почувствувате болка во градите, отежнато дишење, нагли промени во менталната состојба или тешки алергии, не прашувајте го чатботот. Побарајте професионална медицинска помош веднаш. AI моделите постојано се ажурираат и менуваат, но во медицината „учењето во од“ може да има превисока цена.
Извор: bizlife.rs
