Bezpieczeństwo sztucznej inteligencji

Systemy AI są często podatne na ataki antagonistyczne czy celowo spreparowane dane wejściowe^[13]. W 2013 pokazano, że dodanie do obrazu określonych, niezauważalnych zaburzeń może spowodować jego błędną klasyfikację z dużym prawdopodobieństwem^[14]. Problem ten nadal stanowi problem w sieciach neuronowych, choć istnieją metody dające możliwość wykrywania takich perturbacji^[15][16][17].

Również sygnał audio można niezauważalnie zmodyfikować, tak aby systemy przetwarzające mowę na tekst mogły go przepisać na dowolną wiadomość wybraną przez atakującego^[18]. Systemy wykrywania włamań do sieci^[19] i złośliwego oprogramowania^[20] muszą być również odporne na ataki ze strony atakujących, ponieważ mogą oni projektować swoje ataki w taki sposób, aby oszukać detektory.

Systemy sztucznej inteligencji mogą być wykorzystywane do pomagania złośliwym podmiotom^[21] w konstruowaniu broni^[22], manipulowaniu opinią publiczną^[23][24] lub automatyzowaniu cyberataków^[25]. Obawy te stanowią problem dla firm takich jak OpenAI, które udostępniają w Internecie narzędzia AI^[26]. Aby zapobiec niewłaściwemu wykorzystaniu, OpenAI opracowała systemy wykrywania, które oznaczają użytkowników flagami lub ograniczają ich aktywność na podstawie ich aktywności^[27].

Sieci neuronowe często sa porównywane do czarnych skrzynek^[28], co oznacza, że trudno jest zrozumieć, dlaczego podejmują takie, a nie inne decyzje, biorąc pod uwagę ogromną liczbę wykonywanych przez nie obliczeń^[29]. Utrudnia to przewidywanie i analizę błędów. W 2018 roku autonomiczny samochód zabił pieszego, ponieważ nie rozpoznał go i ze względu na charakter czarnej skrzynki oprogramowania AI przyczyna awarii pozostaje niejasna^[30]. W opiece zdrowotnej pojawiają się dyskusje na temat tego, czy należy stosować statystycznie wydajne, ale nieprzejrzyste modele^[31].

Jedną z najważniejszych zalet przejrzystości jest możliwość wyjaśnienia ^[32]. Czasami wymogiem prawnym jest podanie wyjaśnienia, dlaczego podjęto daną decyzję, aby zapewnić jej uczciwość, na przykład w przypadku automatycznego filtrowania aplikacji o pracę lub przypisywania wyników oceny kredytowej^[32].

Modele uczenia maszynowego mogą potencjalnie zawierać konie trojańskie lub furtki: luki, które złośliwi użytkownicy złośliwie umieszczają w systemie sztucznej inteligencji. Jako przykład, zainfekowany trojanem system rozpoznawania twarzy mógłby udzielić dostępu, gdy w polu widzenia znajduje się konkretny element biżuterii^[33] lub zainfekowany trojanem pojazd autonomiczny mógłby działać normalnie, dopóki nie pojawi się konkretny wyzwalacz^[34].

Duże modele językowe są podatne na osadzenie furtek podczas treningu w formie uśpionych agentów. Standardowe środki bezpieczeństwa sztucznej inteligencji, takie jak uczenie nadzorowane czy uczenie przez wzmacnianie nie usunęły tych backdoorów^[35].