Przejrzystość

• Systemy AI powinny być zrozumiałe dla wszystkich zainteresowanych stron, w tym celu należy wyjaśnić ich cele, dane wejściowe oraz sposób działania.

• Ochrona własności intelektualnej i poufności nie może stanowić przeszkody dla przejrzystości. Można ją osiągnąć, zapewniając dostęp do informacji zaufanym stronom trzecim.

‍
• Użytkownicy muszą być świadomi, że korzystają z systemu AI, zwłaszcza gdy interakcja imituje komunikację międzyludzką.

‍
• Należy otwarcie informować użytkowników o celach, możliwościach, ograniczeniach i ryzykach związanych z działaniem systemu AI.

• System AI powinien być monitorowany na każdym etapie – od projektowania, przez wdrożenie, po audyty i ocenę jego działania.

• Wyjaśnienia decyzji AI powinny być dostosowane do poziomu wiedzy i roli użytkownika, obejmując różne poziomy techniczne.

Efekt czarnej skrzynki (black box effect)
‍Systemy AI bywają postrzegane jako „czarne skrzynki” – nieprzejrzyste i trudne do zrozumienia, co może prowadzić do braku zaufania lub bezkrytycznego polegania na ich decyzjach. Jak tego uniknąć? Zastosowanie wyjaśnialności i przejrzystości. Każda decyzja AI powinna być poparta jasnym uzasadnieniem, dostępnym dla użytkownika. Dzięki temu system staje się bardziej zrozumiały i przewidywalny, co buduje zaufanie i świadome korzystanie z technologii.

‍

‍Błąd potwierdzenia (confirmation bias)
‍Każdy z nas ma tendencję do szukania informacji, które potwierdzają nasze wcześniejsze przekonania. To samo może dziać się w przypadku korzystania z AI – użytkownicy mogą interpretować wyniki w sposób, który jedynie utwierdza ich w tym, co już myślą, zamiast otworzyć się na nowe perspektywy.

‍

‍Zaufanie automatyzacji (automation bias)
‍To błąd polegający na nadmiernym zaufaniu do systemów AI. Kiedy maszyna wydaje się bardziej precyzyjna i niezawodna, użytkownicy mogą pomijać własną ocenę sytuacji, zakładając, że AI zawsze ma rację. Efekt? Automatyzacja błędnych decyzji bez weryfikacji.

Bias wynikający z interpretacji wyników
‍Nawet jeśli system AI działa poprawnie, sposób, w jaki wyniki są interpretowane i prezentowane użytkownikom, może prowadzić do uprzedzeń.
‍

‍Framing bias
‍Wyniki mogą być przedstawiane w sposób, który sugeruje pewne interpretacje, np. faworyzowanie jednych wyników nad innymi.

‍

‍Confirmation bias
‍Użytkownicy mogą wybierać te interpretacje wyników, które potwierdzają ich własne przekonania, ignorując inne.

AI Act zobowiązuje dostawców modeli oraz systemów AI do upubliczniania lub przekazywania szczegółowych informacji dotyczących m.in. procesu ich trenowania i parametrów. Katalog takich informacji został określony w przepisach AI Act i jego załącznikach. Nowe przepisy mają na celu zwiększenie skuteczności istniejących praw i środków ochrony prawnej poprzez ustanowienie szczególnych wymogów i obowiązków, w tym w zakresie przejrzystości, dokumentacji technicznej i rejestrowania zdarzeń w ramach systemów AI.

AI Act nakłada także obowiązek odpowiedniego oznakowania treści, które zostały wygenerowane lub zmanipulowane przez AI.

‍

Szczegółowo analizujemy:
• Kontekst użycia i perspektywy interesariuszy.
• Etyczne i odpowiedzialne podejście na każdym etapie wytwarzania produktu.
• Projektowania doświadczeń, zachowań i transparetnych nudges na linii człowiek-AI.
• Proces podejmowania decyzji bez manipulacji na podstawie nauk behawioralnych z przełożeniem na interakcje.

Wszystko po to, żeby zoperacjonalizować etyczne i odpowiedzialne podejście zgodnie z AI Act.