Zgodność sztucznej inteligencji

Zgodność sztucznej inteligencji^[1] (ang. AI alignment) – sterowanie systemami sztucznej inteligencji w taki sposób, aby odpowiadały one zamierzonym celom, preferencjom lub zasadom etycznym danej osoby lub grupy. System sztucznej inteligencji uznaje się za zgodny z oczekiwaniami, jeżeli realizuje zamierzone cele. Niewłaściwie dopasowany system sztucznej inteligencji realizuje niezamierzone cele^[2].

Projektanci sztucznej inteligencji często mają trudności z dostosowaniem systemu AI, ponieważ trudno im określić pełen zakres pożądanych i niepożądanych zachowań. Dlatego projektanci sztucznej inteligencji często stosują prostsze cele zastępcze, takie jak uzyskanie akceptacji człowieka . Jednak cele zastępcze mogą pomijać niezbędne ograniczenia lub nagradzać system sztucznej inteligencji za samo pozorne dopasowanie^[2][3]. Systemy sztucznej inteligencji mogą również znaleźć luki, które pozwolą im na skuteczne osiągnięcie celów zastępczych, ale w niezamierzony, a czasem szkodliwy sposób^[2][4].

Zaawansowane systemy sztucznej inteligencji mogą rozwijać niepożądane strategie instrumentalne, takie jak dążenie do władzy lub przetrwania, ponieważ takie strategie pomagają im osiągnąć wyznaczone cele końcowe^[2][5][6]. Oprócz tego, mogą one powodować powstawanie niepożądanych, pojawiających się celów, które mogą być trudne do wykrycia przed wdrożeniem systemu i napotkaniem nowych sytuacji wraz z ich adaptacjami^[7][8]. Badania empiryczne wykazały w 2024 r., że zaawansowane duże modele językowe, takie jak OpenAI o1 czy Claude 3, czasami stosują strategiczne oszustwa, aby osiągnąć swoje cele lub zapobiec ich zmianie^[9][10].

Obecnie niektóre z tych problemów dotyczą istniejących systemów komercyjnych, takich jak LLMy^[11][12][13], roboty^[14], pojazdy autonomiczne^[15] i silniki rekomendacyjne w mediach społecznościowych^[12][6][16]. Wraz z postępem sztucznej inteligencji ten problem może być bardziej widoczny^[17][4][3].

Zgodzność sztucznej inteligencji jest poddziedziną bezpieczeństwa sztucznej inteligencji, czyli nauki o tym, jak budować bezpieczne systemy sztucznej inteligencji^[18]. Inne poddziedziny bezpieczeństwa sztucznej inteligencji obejmują solidność, monitorowanie i kontrolę możliwości^[19]. Wyzwania badawcze w zakresie dostosowania obejmują wstrzykiwanie złożonych wartości w sztuczną inteligencję, rozwijanie uczciwej sztucznej inteligencji, skalowalny nadzór, audyt i interpretację modeli sztucznej inteligencji oraz zapobieganie pojawiającym się zachowaniom sztucznej inteligencji, takim jak dążenie do władzy^[19]. Badania nad dopasowaniem są powiązane z badaniami nad wyjaśnialnością^[20][21], wykrywaniem anomalii, weryfikacją formalną^[22], teorią gier^[23] i naukami społecznymi^[24][25].