Człowiek zwykle czuje, kiedy wchodzi na nieznany teren i jego wiedza przestaje wystarczać. Sztuczna inteligencja takiego wyczucia nie ma: uczy się na wybranych danych, a potem bywa bezradna, gdy świat wygląda inaczej niż podczas treningu. Europejski projekt E-pi uczył algorytmy rozpoznawać własną niewiedzę i sprawdzał to tam, gdzie pomyłka może być najdroższa, czyli w samochodach autonomicznych — a na końcu możesz sprawdzić, jak ty sam radzisz sobie z niepewnością.
Sztuczna inteligencja trafia dziś niemal wszędzie. Napędza gospodarkę, zmienia domy, szkoły i miejsca pracy. Ma jednak słaby punkt, o którym mówi się rzadziej niż o jej sukcesach. Model uczy się na konkretnym zbiorze danych, a potem musi działać w świecie, który nie zawsze przypomina to, co widział podczas treningu. I właśnie wtedy zaczynają się kłopoty.
Tym problemem zajął się finansowany przez Unię Europejską projekt E-pi, koordynowany przez Oxford Brookes University w Wielkiej Brytanii. Jego zespół przez pięć lat pracował nad tak zwaną epistemiczną sztuczną inteligencją, czyli taką, która lepiej radzi sobie z niepewnością i potrafi formułować prognozy także w sytuacjach odbiegających od danych treningowych.
Słowo „epistemiczna” pochodzi od epistemologii, czyli działu filozofii, który bada wiedzę. Z tej dziedziny wynika umiejętność dla człowieka zupełnie naturalna: zauważenie, że to, co wiemy, w danej sytuacji nie wystarcza. To jeden z podstawowych elementów ludzkiej inteligencji.
Maszyna sama z siebie tego nie potrafi. W jej przypadku rozpoznawanie własnej niewiedzy trzeba oprzeć na ramach teoretycznych i matematycznych. Innymi słowy, poczucie „tu już nie jestem pewna” trzeba algorytmowi dosłownie wpisać w konstrukcję.
Koordynator projektu Fabio Cuzzolin zwraca uwagę, że klasyczne algorytmy uczenia maszynowego skupiają się na wyjaśnieniu stosunkowo niewielkiego zbioru danych treningowych, a nie wszystkich danych, które mogą pojawić się w rzeczywistości. Skutek łatwo przewidzieć. „Konwencjonalne modele sztucznej inteligencji mają trudności z formułowaniem wiarygodnych prognoz, gdy rozkłady prawdopodobieństwa wynikające z danych odbiegają od tych wykorzystanych w czasie szkolenia” – tłumaczy badacz.
Mówiąc prościej: model, który dobrze zna tylko wycinek świata, może się pogubić, kiedy trafi na coś spoza tego wycinka. Konsorcjum E-pi uznało, że najbardziej obiecującym fundamentem rozwiązania jest teoria niepewności drugiego rzędu. Prezentacje projektu spotkały się z entuzjazmem na konferencjach branżowych, a Cuzzolin został zaproszony do kilku powiązanych inicjatyw w programie Horyzont Europa. Prace zespołu mają pomóc w budowie międzynarodowego ekosystemu epistemicznej AI.
Gdzie najlepiej przetestować sztuczną inteligencję, która ma radzić sobie z nieprzewidywalnym? Badacze wybrali pojazdy autonomiczne. Na drodze sytuacja potrafi nagle wymknąć się schematom, choćby przez zachowanie pieszych, ekstremalną pogodę albo nietypowy układ drogi. Błędy obecnych systemów bywają kosztowne, a w najgorszym razie mogą prowadzić do śmierci ludzi.
Zespół wykorzystał zbiór danych ROAD, poświęcony rozpoznawaniu zdarzeń drogowych przez pojazdy autonomiczne. Posłużył on do trenowania modelu i do testowania nowych, epistemicznych metod wykrywania obiektów. ROAD jest stale rozbudowywany i zawiera nagrania z Europy, Ameryki Północnej, Dubaju i Abu Zabi, dzięki czemu stał się zasobem o naprawdę globalnym zasięgu.
Bezpieczniejsze auta bez kierowcy to tylko jeden z celów. Z tej samej logiki mogą skorzystać także inne dziedziny:
Synteza jądrowa to przykład szczególnie wymagający. „Pracujemy nad opracowaniem modeli operatorów neuronowych uwzględniających niepewność” – mówi Cuzzolin. Takie modele mają prognozować przepływ plazmy wewnątrz tokamaka, czyli reaktora, i wskazywać, które jego obszary będą najbardziej narażone na jej oddziaływanie. Tu również chodzi o to samo: model ma nie tylko podać wynik, lecz także uczciwie uwzględnić, jak bardzo jest go pewien.
Kolejny kierunek dotyczy generatywnej AI. „Najnowocześniejsze duże modele językowe są znane z generowania błędnych odpowiedzi” – przyznaje Cuzzolin. Jego zdaniem wyjściem mogą być modele zbudowane według nowego paradygmatu: „Epistemiczne modele językowe mogą w znacznym stopniu ograniczyć ich nadmierną pewność siebie”.
W planach są też rozwiązania związane z teorią umysłu oraz systemy, które ewoluują dzięki ciągłemu uczeniu się. Wspólny mianownik pozostaje ten sam: sztuczna inteligencja ma nie tylko odpowiadać, ale też wiedzieć, kiedy jej odpowiedź stoi na kruchych podstawach.
Projekt E-pi, którego całkowity koszt wyniósł około 3 mln euro, przyczynił się do rozwoju bezpieczniejszych pojazdów autonomicznych i robotów oraz generatywnej sztucznej inteligencji, która nie halucynuje. Zbudował też dynamiczną sieć ekspertów od uczenia maszynowego. Jego autorzy przekonują, że epistemiczna AI ma szansę zmienić świat i nasze codzienne funkcjonowanie. A wszystko zaczyna się od bardzo ludzkiej umiejętności: przyznania, że czegoś się nie wie.
5 pytań · minuta
poleca:
