Во пејзажот на постојаното развивање на вештачката интелигенција (ВИ), ветувањето за автономни возила што ќе се движат по нашите улици ја плени фантазијата на многумина.
Сепак, револуционерната студија на истражувачите од Кралскиот колеџ во Лондон и Универзитетот во Пекинг, Кина, фрли остра сенка врз оваа технолошка утопија. Нивните наоди откриваат дека кога станува збор за идентификација на пешаците, софтверот на автономните возила покажува вознемирувачка пристрасност, фаворизирајќи ги лицата со посветла кожа во однос на оние со потемна.
Ова откритие произлегува од опсежното тестирање на осум системи за откривање пешаци базирани на ВИ, кои производителите на автономните возила ги користеле.
Резултатите откриваат вознемирувачка разлика од 7,5% во прецизноста кога станува збор за разликување помеѓу посветла и потемна кожа.
Уште позагрижувачко е откритието дека способноста на софтверот да детектира лица со потемна кожа е дополнително загрозена при предизвикувачки услови на осветлување, како што се оние на слабо осветлените патишта.
Децата се, исто така, изложени на поголем ризик
Јие М. Џанг, една од истражувачите вклучени во студијата, нагласи дека оваа пристрасност не е ограничена на едно специфично сценарио или локација. Откриено е дека неточните стапки на откривање на пешаците со темна кожа значително се зголемуваат од 7,14% во текот на денот на вознемирувачки 9,86% во текот на ноќта.
Студијата, исто така, нагласи посебни разлики во перформансите на софтверот при откривање на возрасни лица и деца, при што возрасните се идентификуваат за 20% повеќе од децата.
Меѓутоа, полот покажува само 1,1% разлика во точноста на откривање.
Во ерата на вештачката интелигенција, концептот на правичност има огромно значење. Џанг го изјавил следното: „Сегашната одредба за правичност во овие системи е ограничена, а тоа може да има големо влијание не само врз идните системи, туку директно врз безбедноста на пешаците“.
Таа истакнала дека правичност е кога системот за вештачка интелигенција исто ги третира и привилегираните и недоволно привилегираните групи, а тоа не е случај кога станува збор за автономните возила во моментов.
Оваа пристрасност, без разлика дали е намерна или ненамерна, долго време ги мачи системите за ВИ, но импликациите во доменот на автономните автомобили се особено сериозни.
Пристрасноста бара итна акција
Трудот, под наслов: „Лицата со темна кожа се изложени на поголем ризик на улица: Разоткривање на прашањата за правичноста на системите за автономно возење“, објавен на серверот за предпечатење arXiv, не само што открива критичен проблем, туку и повикува на итна акција.
Џанг се залага за воспоставување на упатства и регулативи за да се осигура дека податоците за вештачката интелигенција се спроведуваат без пристрасност. Таа тврди дека соработката на производителите на автомобили и владините тела е императив за објективно мерење на безбедноста на овие системи, особено во однос на правичноста.
Извор: Универзитет Корнел
Како што вештачката интелигенција сè повеќе се интегрира во нашиот секојдневен живот, од возилата што ги возиме до интеракциите со органите за спроведување на законот, прашањето за правичност добива уште поголемо значење.
Со оглед на овие откритија, јасно е дека решавањето на пристрасноста кај автономните возила не е само технолошки предизвик, туку прашање на јавна безбедност што бара итно внимание.
