Компаниите привлечени од профитот и продуктивноста брзо ја усвоија технологијата. Според истражување од мај на консултантската фирма McKinsey & Company, 65% од над 1300 компании изјавиле дека редовно користат генеративна вештачка интелигенција — двојно повеќе од претходната година.
Но, ризиците од неправилно користење на технологијата се значителни. Генеративната вештачка интелигенција може да создава „халуцинации“, да шири дезинформации и да зајакнува пристрасности против маргинализираните групи, доколку не се употребува правилно. Бидејќи технологијата се потпира на големи количини чувствителни податоци, потенцијалот за пробивање на податоците е исто така висок. Во најлош случај, колку понапредна станува технологијата, толку е помала веројатноста да се усогласи со човечките вредности.
Со голема моќ доаѓа голема одговорност, и компаниите кои заработуваат од генеративна вештачка интелигенција мора исто така да се осигурат дека ќе ја регулираат. Тука влегува во игра главниот службеник за етика.
Критична улога во ерата на AI
Деталите за улогата варираат од компанија до компанија, но генерално, тие се одговорни за одредување на влијанието кое користењето на AI од страна на компанијата може да го има врз општеството во целост, вели Вар Шанкар, главниот службеник за AI и приватност во Enzai, софтверска платформа за управување со AI, ризик и усогласеност. „Значи, покрај само вашата компанија, како тоа влијае на вашите клиенти? Како тоа влијае на другите луѓе во светот? И крајно, како тоа влијае на околината,“ прашува тој за Business Insider. Потоа следува „создавање програма која ќе ги стандардизира и скалира тие прашања секогаш кога ќе користите AI.“
Тоа е улога која им дава на љубителите на политиките и дипломците по филозофија, заедно со програмерите, основа во брзорастечката технолошка индустрија. И често пати доаѓа со значителна годишна плата во средината на шестцифрената сума.
Сепак, според Стив Милс, главниот службеник за етика во AI во Boston Consulting Group, компаниите не ангажираат доволно брзо луѓе во овие улоги. „Мислам дека има многу разговори за ризик и принципи, но малку акција за нивно имплементирање во рамките на компаниите,“ вели тој.
Одговорност на ниво на C-suite
Оние кои се успешни во улогата, идеално имаат четири области на експертиза според Милс. Тие треба да имаат техничко разбирање за генеративна AI, искуство во градење и имплементација на производи, разбирање на главните закони и регулативи околу AI, и значително искуство во вработување и донесување одлуки во организација.
„Пречесто гледам како луѓе поставуваат средно ниво на менаџери на чело, и иако можат да имаат експертиза, желба и страст, тие обично немаат статура за да ги променат работите во рамките на организацијата и да ги обединат правните, бизнис и тимовите за усогласеност,“ вели тој и додава дека секоја Fortune 500 компанија која користи AI, треба на високо ниво да ангажира извршен директор кој ќе надгледува одговорна AI програма.
Шанкар, кој по професија е адвокат, вели дека улогата не бара никаква специфична образовна позадина. Најважната квалификација е разбирањето на податоците на компанијата. Тоа значи дека треба ги разбереме „етичките импликации на податоците што ги собирате, користите, од каде доаѓаат, каде биле пред да дојдат во вашата организација и каков вид на согласност имате за нив,“ вели тој.
Тој посочува пример со здравствени провајдери кои ненамерно би можеле да ја зајакнат пристрасноста ако немаат цврсто разбирање за своите податоци. Во студија објавена во Science, болниците и осигурителните компании кои користеле алгоритам за идентификација на пациенти кои би имале корист од „управување со високо-ризични грижи“, на крајот давале приоритет на поздрави бели пациенти во однос на послаби црни пациенти. Тоа е вид на грешка што службеникот за етика може да помогне компаниите да ја избегнат.
Соработка низ компании и индустрии
Вработените на оваа позиција исто така треба да можат самоуверено да комуницираат со различни засегнати страни.
Кристина Монтгомери, потпретседателка за приватност и доверба во IBM и претседателка на одборот за етика на AI, вели дека нејзините денови обично се полни со состаноци со клиенти и настани, покрај другите одговорности.
„Минувам многу време надвор, особено во говорење на настани и ангажирање со носители на политики и на надворешни одбори, бидејќи мислам дека имаме многу можност да влијаеме и да определиме како ќе изгледа иднината,“ вели таа.
Таа е дел од различни одбори како Меѓународната асоцијација за професионалци за приватност, која неодамна лансираше сертификација за професионалци за управување со вештачка интелигенција, за поединци кои сакаат да предничат во полето на етиката на AI. Таа исто така се ангажира со владините лидери и други службеници за етика.
„Мислам дека е апсолутно потребно да разговараме меѓу себе на редовна основа и да споделуваме најдобри практики,“ вели таа.
Таа се стреми да развие пошироко разбирање за тоа што се случува на општествено ниво — нешто што го гледа како клучно за улогата.
„Мојот страв во просторот во кој сме сега е дека нема интероперабилност на глобално ниво меѓу сите овие регулативи, за тоа што се очекува и што е исправно и погрешно во однос на тоа што компаниите ќе треба да го почитуваат,“ вели таа. „Не можеме да функционираме во светот на тој начин. Така што разговорите меѓу компаниите, владите и одборите се многу важни во моментов.“
