ISO 42001 — Czym jest nowy standard?
ISO 42001 to nowy standard zarządzania AI opracowany przez Międzynarodową Organizację Normalizacyjną (ISO). Dotyczy firm korzystających z AI w swoich produktach, usługach lub systemach wewnętrznych. Standard nakłada na organizacje obowiązek wdrożenia ram zarządzania, które uwzględniają aspekty takie jak:
- Pozyskiwanie danych — dokumentacja pochodzenia i praw do danych, w tym przestrzeganie praw autorskich.
- Zarządzanie ryzykiem — identyfikacja potencjalnych zagrożeń związanych z użyciem AI.
- Przejrzystość — zapewnienie jasnych informacji dla interesariuszy.
Standard wymaga również przygotowania przez organizację tzw. „oświadczenia o stosowalności”, w którym definiuje ona, które z kontroli uważa za istotne oraz uzasadnia wykluczenie innych. Jednostka certyfikująca, taka jak Schellman Compliance, ocenia to oświadczenie, ale nie ma obowiązku przeprowadzania szczegółowych testów przeciwdziałających oszustwom.
Certyfikacja ISO 42001 dla Anthropic: Sukces czy pozorny krok naprzód?
Według oficjalnego komunikatu prasowego, Anthropic jest dumne z uzyskania certyfikatu ISO 42001, traktując go jako dowód swojego zaangażowania w odpowiedzialny rozwój AI. Firma podkreśla swoje inicjatywy, takie jak:
- Constitutional AI — podejście, które pomaga modelom AI działać zgodnie z wartościami ludzkimi.
- Responsible Scaling Policy — publiczny framework zarządzania ryzykiem związanym z rozwojem AI.
- Badania nad bezpieczeństwem i solidnością AI.
Jednakże uzyskanie certyfikatu nie oznacza, że systemy zarządzania AI w firmie są bezbłędne. W październiku 2023 roku Anthropic został pozwany o naruszenie praw autorskich przez duże konsorcjum wydawców muzycznych oraz grupę autorów. Zarzuty obejmują bezprawne kopiowanie i wykorzystanie treści chronionych prawem autorskim do trenowania modelu Claude.
Kontrowersje wokół standardów i certyfikacji
ISO 42001 wymaga od firm szczegółowej dokumentacji dotyczącej pozyskiwania danych, w tym przestrzegania praw autorskich. Jednak istotną słabością standardu jest możliwość wykluczenia pewnych kontroli na podstawie subiektywnej oceny ryzyka przez organizację. W przypadku Anthropic:
- Oświadczenie o stosowalności firmy nie zostało jeszcze opublikowane, więc nie wiadomo, czy uwzględniono w nim kwestię pozyskiwania danych.
- Schellman Compliance nie jest zobowiązany do oceny prawnych aspektów zastosowania normy, co może prowadzić do niewłaściwych decyzji.
Jeśli w toku procesów sądowych okaże się, że Anthropic faktycznie naruszył prawa autorskie, będzie to oznaczać, że proces certyfikacji ISO 42001 był niedostateczny.
Potrzeba lepszych mechanizmów nadzoru
Certyfikat ISO 42001 jest ważnym krokiem, ale nie można go traktować jako ostatecznej gwarancji bezpieczeństwa i odpowiedzialności AI. Branża AI potrzebuje:
- Silniejszych regulacji — niezależne organy nadzorcze powinny bardziej szczegółowo kontrolować przestrzeganie standardów.
- Przejrzystości — publikacja oświadczeń o stosowalności powinna być wymagana, aby umożliwić zewnętrzną ocenę.
- Współpracy sektora — firmy, regulatorzy i społeczeństwo obywatelskie muszą wspólnie tworzyć lepsze mechanizmy nadzoru.
Podsumowanie
Uzyskanie przez Anthropic certyfikatu ISO 42001 to pozytywny sygnał dla branży, wskazujący na chęć przestrzegania międzynarodowych standardów zarządzania AI. Jednak obecne kontrowersje pokazują, że standard ten ma swoje ograniczenia. Odpowiedzialny rozwój AI wymaga nie tylko certyfikatów, ale także ciągłej ewaluacji praktyk firm, silniejszych mechanizmów nadzoru i ścisłej współpracy różnych interesariuszy. Tylko wtedy możemy mówić o stworzeniu prawdziwie bezpiecznej i odpowiedzialnej sztucznej inteligencji.
