Sztuczna inteligencja przestała być tematem sporu o to, czy wolno jej używać. Jest już w procedurach szpitali, działów rekrutacji i zespołów programistycznych, a europejski projekt AIOLIA sprawdza, co jej obecność robi z osądem człowieka, który podpisuje się pod decyzją. Badacze zebrali dziesięć scenariuszy z praktyki i wyliczyli zabezpieczenia, bez których nadzór staje się fikcją — a przy okazji postawili pytanie, które warto zadać też sobie: gdzie kończy się Twoje własne zdanie, a zaczyna sugestia modelu.
Przez kilka ostatnich lat debata o sztucznej inteligencji kręciła się wokół jednego pytania: czy ta technologia jest etyczna. Pytanie zestarzało się szybciej, niż ktokolwiek zakładał. Systemy oparte na uczeniu maszynowym są już wpisane w procedury szpitali, działów kadr i firm produkujących oprogramowanie, a spór o to, czy wolno ich używać, przegrał z praktyką. Zostało pytanie trudniejsze: co obecność maszyny robi z osądem człowieka, który podejmuje decyzję i bierze za nią odpowiedzialność.
Tym problemem zajmuje się AIOLIA, projekt finansowany ze środków Unii Europejskiej, który wystartował w 2025 roku. Zamiast kolejnej listy szlachetnych zasad zespół postawił na coś przyziemnego: wytyczne, materiały szkoleniowe i szkolenia, z których da się korzystać w konkretnym miejscu pracy. Punkt wyjścia główna badaczka projektu, Petra Saskia Bayerl z Uniwersytetu Sheffield Hallam w Zjednoczonym Królestwie, opisuje bardzo prosto: „Punktem wyjścia dla projektu AIOLIA jest proste pytanie - jaką rolę odgrywa technologia w życiu ludzi?”.
Zespół nie zatrzymał się na teorii. Opublikowane wytyczne obejmują sześć europejskich scenariuszy użycia, dobranych tak, by pokazać, jak bardzo różnią się stawki:
Do tego dochodzą cztery scenariusze spoza Europy: z Kanady, Chin, Japonii i Korei Południowej. Zestawienie ma sens praktyczny, bo pokazuje, że te same narzędzia wchodzą w zupełnie inne systemy prawne i obyczajowe.
Bayerl tłumaczy, dlaczego ta technologia wymaga osobnego namysłu. „Sztuczna inteligencja jest inna, ponieważ w coraz większym stopniu przejmuje zadania, które tradycyjnie były związane z ludzkim myśleniem. Może zwiększyć efektywność procesów poznawczych, zautomatyzować niektóre decyzje oraz rozpoznawać wzorce - wszystkie te obszary do niedawna uważaliśmy za wyłączną domenę człowieka” - wyjaśnia badaczka.
Różnica jest subtelna, ale ma konsekwencje. Narzędzie, które liczy szybciej, nie zmienia tego, kto decyduje. Narzędzie, które podsuwa gotowy wniosek, zmienia, bo człowiek dostaje odpowiedź, zanim zdąży sformułować własną. Lekarz, rekruter czy inżynier musi wtedy ocenić dwie rzeczy naraz: samą sprawę i wartość podpowiedzi.
Z analizy scenariuszy wyszła rzecz, której nie widać z poziomu ogólnych deklaracji. W kontekstach zawodowych badacze notowali przede wszystkim wymogi odpowiedzialności, przejrzystości i braku uprzedzeń, czyli pytania o to, kto odpowiada za skutek i czy da się prześledzić, skąd wzięła się decyzja.
W sytuacjach prywatnych na pierwszy plan wychodziło co innego: bezpieczeństwo, dobrostan, autonomia i podmiotowość użytkownika. Wirtualny asystent w domu i system oceniający kandydatów do pracy to dwa światy, choć technicznie mogą stać na tym samym fundamencie.
Projekt przygotował też narzędzie do oceny gotowości etycznej i wpływu algorytmów. Jego zadaniem nie jest wystawianie stopni, tylko umożliwienie rozmowy, w której ekspert od etyki i inżynier używają wspólnego języka i wychodzą z listą rzeczy do poprawienia w systemie. „Celem projektu AIOLIA jest nadanie etyce praktycznego wymiaru” - podsumowuje Bayerl. Zdanie brzmi skromnie, ale oznacza zmianę adresata: z deklaracji dla zarządów na instrukcję dla osób, które system projektują i obsługują.
Lista rekomendowanych zabezpieczeń jest krótka i celowo nudna: nadzór sprawowany przez człowieka, mechanizmy odwoławcze, szkolenia pracowników oraz regularne przeglądy zasad. Żaden z tych punktów nie wymaga przełomu technologicznego. Każdy wymaga natomiast, żeby ktoś w organizacji miał go w zakresie obowiązków.
Najciekawszy jest mechanizm odwoławczy. Jeśli system odmawia komuś rozmowy rekrutacyjnej albo świadczenia, sam fakt, że istnieje ścieżka odwołania, wymusza na instytucji umiejętność wytłumaczenia decyzji. A to znaczy, że decyzja nie może pozostać całkowicie nieprzejrzysta.
Etyka technologii bywa traktowana na studiach jak przedmiot dodatkowy, bliżej filozofii niż kodu. Scenariusze zebrane przez AIOLIA pokazują coś odwrotnego: wymogi przejrzystości, odpowiedzialności i odwołania przekładają się na architekturę systemu, na logi i na sposób dokumentowania modelu. Kto projektuje takie rozwiązania, projektuje też ich konsekwencje.
Dla kandydatów na studia to sygnał, że kierunki informatyczne, prawnicze i społeczne coraz mocniej stykają się w tym jednym miejscu. Kompetencja, o którą chodzi, nie polega na nieufności wobec maszyn, tylko na umiejętności zapytania, na czym opiera się ich odpowiedź.
AIOLIA nie próbuje rozstrzygnąć, czy sztuczna inteligencja jest dobra. Sprawdza, gdzie w codziennych procedurach przejmuje kawałek ludzkiego osądu, i proponuje konkretne przeciwwagi: nadzór, odwołanie, szkolenie i przegląd zasad. Sześć europejskich oraz cztery pozaeuropejskie scenariusze pokazują przy tym, że oczekiwania wobec tej technologii zmieniają się w zależności od tego, czy mowa o szpitalu, dziale kadr, czy o własnym domu.
5 pytań · minuta · bez zapisywania
poleca:
