Wyjaśnialna sztuczna inteligencja

Wyjaśnialna sztuczna inteligencja (ang. Explainable AI, XAI) – dziedzina badań w ramach sztucznej inteligencji, która bada metody wyjaśniania złożonych modeli zapewniające możliwość nadzoru nad algorytmami AI[1][2]. Celem wyjaśnialności jest rozumowanie leżące u podstaw decyzji lub przewidywań algorytmów sztucznej inteligencji[3], aby uczynić je bardziej zrozumiałym i przejrzystym[4]. XAI pomaga dostarczyć wymagania użytkowników dotyczące oceny bezpieczeństwa i kontroli automatycznego podejmowania decyzji w aplikacjach[5] i stanowi podejścia alternatywne do koncepcji czarnej skrzynki, w której nawet projektanci modelów nie potrafią wyjaśnić, dlaczego określona decyzja została podjęta[6][7].

Zobacz też

Przypisy

  1. ↑ Luca Longo i inni, Explainable Artificial Intelligence (XAI) 2.0: A manifesto of open challenges and interdisciplinary research directions, „Information Fusion”, 106, 2024, s. 102301, DOI: 10.1016/j.inffus.2024.102301, ISSN 1566-2535 [dostęp 2025-04-28].
  2. ↑ Przemysław Biecek, Wyjaśnialna sztuczna inteligencja, [w:] Mieczysław Muraszkiewicz, Robert Marek Nowak (red.), Sztuczna inteligencja dla inżynierów. Istotne obszary i zastosowania, Oficyna Wydawnicza Politechniki Warszawskiej, s. 264, ISBN 978-83-8156-584-4 (pol.).
  3. ↑ Four Principles of Explainable Artificial Intelligence NISTIR 8312 [online], NIST, 2021.
  4. ↑ Giulia Vilone, Luca Longo, Notions of explainability and evaluation approaches for explainable artificial intelligence, „Information Fusion”, 76, 2021, s. 89–106, DOI: 10.1016/j.inffus.2021.05.009, ISSN 1566-2535 [dostęp 2025-04-28].
  5. ↑ Roberto Confalonieri i inni, A historical perspective of explainable Artificial Intelligence, „WIREs Data Mining and Knowledge Discovery”, 11 (1), 2021, e1391, DOI: 10.1002/widm.1391, ISSN 1942-4795 [dostęp 2025-04-28] (ang.).
  6. ↑ Davide Castelvecchi, Can we open the black box of AI?, „Nature News”, 538 (7623), 2016, s. 20, DOI: 10.1038/538020a [dostęp 2025-04-28] (ang.).
  7. ↑ Ian Sample, Ian Sample Science, Computer says no: why making AIs fair, accountable and transparent is crucial, „The Guardian”, 5 listopada 2017, ISSN 0261-3077 [dostęp 2025-04-28] (ang.).

Linki zewnętrzne

This article is issued from Wikipedia. The text is licensed under Creative Commons - Attribution - Sharealike. Additional terms may apply for the media files.