Partnerstwa człowiek-AI to obszar o ogromnym potencjale, który jednak wymaga rozwiązywania wielu wyzwań technicznych i społecznych. Kluczowymi aspektami umożliwiającymi skuteczną współpracę między ludźmi a systemami AI są odpowiednio zaprojektowane systemy motywacyjne oraz budowanie świadomego zaufania użytkowników. Osiągnięcie tego wymaga zrozumienia ludzkich preferencji, potrzeb oraz ograniczeń i ich uwzględnienia w procesie projektowania systemów AI.
Zachęcanie do współpracy
Jednym z największych wyzwań w partnerstwach człowiek-AI jest odpowiednie projektowanie systemów motywacyjnych. Aby zachęcić ludzi i systemy AI do współpracy, konieczne jest uwzględnienie motywacji obu stron – ludzi, którzy są autonomicznymi decydentami, oraz inteligentnych systemów, które dążą do optymalizacji swoich działań.
Modelowanie preferencji
Systemy AI muszą być świadome preferencji, potrzeb i ograniczeń ludzi, aby działały jako pomocni partnerzy. Przykładowo, inteligentny agent wspierający kierowców pojazdów elektrycznych może uczyć się ich nawyków, takich jak godziny wyjazdów czy poziom zużycia energii. Dzięki temu może wspierać użytkownika, np. poprzez interakcję z dynamicznymi systemami cen energii elektrycznej. Dane pozostają na urządzeniu użytkownika, co sprzyja ochronie prywatności.
Wyzwania w modelowaniu preferencji
- Minimalizowanie obciążenia poznawczego - użytkownicy nie powinni być przeciążani koniecznością manualnego definiowania swoich preferencji. Rozwiązaniem jest uczenie ze wzmocnieniem odwrotnym, które pozwala AI na naukę preferencji na podstawie obserwacji zachowania użytkownika.
- Radzenie sobie z niepewnością - w przypadkach, gdy brakuje pełnych informacji, systemy mogą łączyć uczenie ze wzmocnieniem odwrotnym z procesem wydobywania preferencji, prosząc użytkowników o dodatkowe dane tylko wtedy, gdy korzyści przewyższają koszty poznawcze.
- Problem "zimnego startu" - aby zredukować potrzebę interakcji z użytkownikiem na początkowym etapie, dane mogą być dzielone między różne agenty AI z wykorzystaniem technik takich jak uczenie federacyjne czy systemy rekomendacyjne.
Zachęty w systemach AI
Ludzie często dążą do realizacji swoich celów, które mogą być sprzeczne z działaniami AI. Projektowanie odpowiednich zachęt jest kluczowe, aby wspierać pozytywne zachowania bez ryzyka manipulacji. Na przykład teoria gier może być stosowana w celu zachęcenia użytkowników do uczciwego raportowania danych, a techniki teorii decyzji mogą pomóc w modelowaniu reakcji ludzi na zmieniające się ceny czy jakość usług. Dzięki temu AI może skutecznie motywować użytkowników do działań społecznie korzystnych, takich jak zmniejszenie zużycia energii czy unikanie korków.
Wyzwania projektowania zachęt
- Irracjonalność decyzji - użytkownicy nie zawsze podejmują racjonalne decyzje. Systemy AI muszą uwzględniać heurystyki i błędy poznawcze w swoich modelach zachowań użytkowników.
- Strategiczne manipulacje - ludzie mogą próbować manipulować procesami uczenia się AI dla własnych korzyści, co wymaga projektowania odpornych systemów.
- Ochrona prywatności - w procesach decyzyjnych AI należy minimalizować wykorzystanie danych osobowych.
Budowanie zaufania
Zaufanie do AI powinno być oparte na jasnym zrozumieniu możliwości, ograniczeń i mechanizmów działania systemów. Użytkownicy muszą wiedzieć, kiedy mogą zaufać AI, a kiedy polegać na własnym osądzie. Kluczowym elementem budowania tego zaufania jest transparentność i wyjaśnialność systemów.
Strategie wzmacniania zaufania
- Transparentna komunikacja na temat danych -informowanie użytkowników, jakie dane są wykorzystywane, skąd pochodzą i jak wpływają na wyniki.
- Wyjaśnienia powiązane z działaniami użytkownika - natychmiastowe wyjaśnienia umożliwiają użytkownikom zrozumienie wpływu ich działań na wyniki AI.
- Dostosowanie wyjaśnień do wagi decyzji - dla decyzji niskiej stawki wystarczą proste wyjaśnienia, natomiast w sytuacjach o wysokiej stawce, takich jak diagnozy medyczne, wymagane są bardziej szczegółowe uzasadnienia.
- Kalibracja zaufania w czasie - wczesne budowanie zaufania przez jasne komunikowanie możliwości i ograniczeń AI oraz oferowanie środowisk testowych o niskim ryzyku. Stopniowe zwiększanie automatyzacji i proaktywna komunikacja w przypadku błędów.
- Optymalizacja dla zrozumienia - priorytetowe traktowanie częściowych wyjaśnień, które pomagają użytkownikom zrozumieć kluczowe aspekty działania systemu na przykład - wyjaśnienie pewności modelu za pomocą graficznych wizualizacji lub procentowych wskaźników (pamiętaj o kontekście - nie zawsze ma to dobre przełożenie na decyzje kiedy w grę wchodzą parametry %. Warto to przetestować.)
- Zarządzanie wpływem na decyzje użytkowników - ostrożna prezentacja pewności modelu w sytuacjach niskiej pewności, np. przez wizualizację alternatywnych wyników.
Tworzenie godnych zaufania partnerstw człowiek-AI wymaga integracji technik wzmacniających współpracę i budujących zaufanie. Transparentność, odpowiednie projektowanie zachęt oraz dbałość o ochronę danych i prywatności użytkowników to kluczowe elementy tego procesu. Jednocześnie odpowiedzialny rozwój AI powinien uwzględniać takie aspekty jak sprawiedliwość, redukcja uprzedzeń i wyjaśnialność, aby systemy AI mogły skutecznie wspierać ludzi w podejmowaniu świadomych i korzystnych decyzji.
Ramchurn SD, Stein S, Jennings NR. Trustworthy human-AI partnerships. iScience. 2021 Jul 24;24(8):102891. doi: 10.1016/j.isci.2021.102891. PMID: 34430804; PMCID: PMC8365362.
Jeśli zastanawiasz się jak budować XAI bazując na:
• kontekście użycia i perspektywy interesariuszy,
• etycznym i odpowiedzialnym podejściem na każdym etapie wytwarzania produktu,
• projektowaniu doświadczeń, zachowań i transparetnego wpływu,
• procesie podejmowania decyzji bez manipulacji na podstawie nauk behawioralnych z przełożeniem na interakcje,
• zmieniających się regulacjach i prawie,
pomożemy Ci to zrobić! Sprawdź https://www.kasiaszczesna.pl/ethical-ai-human-behaviour 😉
