Како би разбрале подобро на кој начин системите за верификација на лица реагираат на ваквите трансформации, експертите од Kaspersky Global Research and Analysis Team (GReAT) за време на конференцијата Kaspersky Horizons спроведоа независен експеримент користејќи широко прифатена библиотека со отворен код за компјутерски вид и машинско учење, која често се применува во истражувањата за препознавање лица и автоматизираните системи за визуелна анализа.
За време на експериментот, оригиналните портретни фотографии беа обработени со алатки на генеративна АИ за да се симулираат сценарија на стареење и подмладување. Во многу случаи, добиените слики на човечките набљудувачи им делуваа како целосно различни лица. И покрај овие значајни визуелни промени, системот за препознавање лица доследно ги поврзуваше АИ-модификуваните слики со оригиналните идентитети во сите 10 независни тест-случаи.
Експериментот вклучуваше АИ-генерирани сценарија на стареење и подмладување, споредби на визуелно различни портрети и верификација со помош на современ софтвер за препознавање лица. Наодите сугерираат дека современите системи за препознавање лица не зависат од површинските визуелни сличности што ги забележува човекот, туку од подлабоките геометриски и структурни карактеристики на лицето. Дури и кога изгледот на лицето значително ќе се промени, алгоритмите за препознавање и понатаму можат да ги детектираат постојаните биометриски маркери кои остануваат стабилни и покрај синтетичките трансформации.
Двоен ризик за сајбер-безбедноста
Од перспектива на сајбер-безбедноста, резултатите укажуваат на сè поизразен двоен ризик:
- Од една страна, тие ја покажуваат отпорноста на системите за биометриска автентикација на одредени форми на АИ визуелна манипулација.
- Од друга страна, отвораат важни прашања за потенцијалната злоупотреба на генеративната АИ за кражба на идентитет, создавање синтетички идентитети и заобиколување на процесите за верификација засновани на човечка проценка.
„Иако овој експеримент не претставува опсежна студија, тој е доказ за концептот на потенцијален АИ-напад за кој индустријата треба да размислува; тој ја илустрира клучната практична импликација: АИ-генерираните трансформации на лицата можат да го задржат биометрискиот идентитет дури и кога човечката перцепција тие слики ги толкува како целосно различни лица. Ова создава нови предизвици за дигиталната доверба, верификацијата на идентитетот и превенцијата од измами во ерата на синтетички медиуми кои брзо се развиваат“, објаснува Махер Јамут (Maher Yamout), водечки истражувач за безбедност во Kaspersky Global Research and Analysis Team.
Како што технологиите за синтетички медиуми продолжуваат да се развиваат, истражувачите од компанијата Kaspersky нагласуваат дека овие трендови бараат зголемено внимание од развивачите на системи за дигитален идентитет, експертите за сајбер-безбедност и регулаторните тела, со цел да се осигура дека биометриските технологии ќе останат безбедни, сигурни и отпорни на новите закани водени од вештачката интелигенција.
Извор: webmind.rs
