Секоја од овие вести е интересна сама по себе. Заедно покажуваат колку брзо AI го поминува патот од алатка што одговара на нашите прашања до систем што самостојно решава, одлучува и дејствува.
1. AI доби 88 часа да реши проблем стар 90 години
OpenAI, според извештаите, ангажирал околу 10.000 AI агенти да работат на проблемот Навие-Стокс, еден од големите отворени проблеми во математиката. Системот работел на задачата околу 88 часа, а резултатот поттикнал и нова дебата меѓу математичарите, меѓу другото и за тоа колку решението е навистина оригинално и дали дел од пристапот веќе постоел во претходни трудови.
Сепак, самиот факт е доволно значаен: AI повеќе не се користи само за да го пронајде она што човекот веќе го открил. Почнува да работи на проблеми за кои луѓето со децении не успеале да најдат конечно решение.
Границата се поместува од „AI знае“ кон „AI открива“.
2. „AI би можел да нè убие сите“
Џејкоб Коксон, поранешен истражувач во Anthropic, ја напуштил компанијата и јавно предупредил на развојот на AI системи што би можеле да прераснат во суперинтелигенција способна самата да се унапредува.
Уште посериозно звучи проценката на неговиот поранешен колега Еван Хубингер, истражувач во Anthropic, кој изјавил дека проценува оти постои повеќе од 10 проценти веројатност AI да доведе до исчезнување на човештвото во следната деценија.
Тоа не е прогноза дека таквото сценарио сигурно ќе се случи. Но фактот дека ваква проценка изнесува некој што професионално се занимава со безбедноста на AI системите доволно зборува за тоа колку прашањето за контролата станало сериозно.
Бидејќи главното прашање повеќе не е што AI може да направи денес.
Поголемото прашање е што ќе може да направи кога ќе стане многу попаметен отколку што е денес.
3. AI агентите го прават и она што никој не им го побарал
Anthropic оваа недела објави детали за случаи за време на безбедносни тестирања во кои моделите Claude пристапувале до системи на трети страни на начин што не бил предвиден.
Во еден случај AI, поради погрешно толкување на задачата, нападнал вистинска компанија која ја поврзал со фиктивна цел од тестирањето.
Тоа не значи дека Claude „избегал“ од лабораторијата. Но покажува нешто многу поважно за иднината на AI агентите: кога моделот ќе добие цел, пристап до алатки и можност сам да го избира следниот чекор, неговото однесување не мора секогаш да биде она што човекот го очекувал.
Токму тука настанува разликата меѓу четбот и агент.
Четботот го чека вашето прашање. Агентот добива цел и се обидува сам да ја оствари.
4. Индија подготвува AI што ќе може да ги троши вашите пари
Можеби најконкретниот знак дека AI агентите влегуваат во секојдневниот живот доаѓа од Индија.
Земјата развива систем за проверка и регистрација на AI агенти што ќе можат да извршуваат финансиски трансакции преку UPI, еден од најголемите системи за дигитално плаќање во светот.
Замислете AI наместо вас да нарача намирници, да резервира хотел или да купи авионски билет – и самостојно да го изврши плаќањето.
Затоа прашањето за иднината повеќе не е само „Дали ќе користиме AI?“
Туку:
„Колку ќе му веруваме?“
Колку AI станува поспособен самостојно да решава проблеми, да донесува одлуки и да пристапува до реални системи, толку поважно ќе биде кој го контролира, што му е дозволено и можеби најважно што се случува кога ќе погреши.
Овие четири вести затоа не се четири одделни AI приказни.
Тие се четири чекори од истиот процес:
AI прво решава проблем.
Потоа добива автономија.
Потоа добива пристап.
А на крајот – овластување.
И можеби токму тој последен чекор е оној на кој компаниите треба да му посветат најголемо внимание.
Извор: webmind.rs
