Fatalny błąd systemu opartego na sztucznej inteligencji

Mieszkający w Rzymie, 44-letni murarz został aresztowany pod zarzutem dwóch kradzieży, na podstawie międzynarodowego listu gończego wydanego przez szwajcarski kanton Ticino. Wszystko za sprawą... sztucznej inteligencji.  

Posłuchaj

4:00

Fatalny błąd systemu opartego na sztucznej inteligencji (Zapraszamy do Trójki)

Dodaj do playlisty

Dodaj do playlisty

Niewinny człowiek trafił do więzienia przez błąd IA

System sztucznej inteligencji błędnie rozpoznał go jako sprawcę dwóch kradzieży w miastach Lugano i Ascona w Szwajcarii. Groziła mu ekstradycja.

Czytaj także: 

• Sztuczna inteligencja wkracza w świat gier wideo. Laureatka Digital Dragons Awards - Marta Fijak
• "Klub Trójki. Audiodokument". Sztuczna inteligencja – zagrożenie czy użyteczna pomoc?
• Sztuczna inteligencja wkracza do świata sztuki. Czy w przyszłości zastąpi artystów?

- Coraz częściej zdarza się, że akty prawne są analizowane przez sztuczną inteligencję - mówi prof. Mirosław Kowalski z Uniwersytetu Zielonogórskiego. - Ta ocena jest podstawą tworzenia perspektywy myślowej w przestrzeni prawnej. W tym przypadku wątpliwe jest czy zaakcentowane było domniemanie niewinności - dodaje. 

Kto popełnił błąd - człowiek czy AI?

Błąd może przytrafić się każdemu, ale za błędy się odpowiada. Co w przypadku gdy ten błąd popełnił system party na sztucznej inteligencji? Czy ktoś zostanie pociągnięty do odpowiedzialności? Twórca algorytmu AI? A może winnych nie ma?  

- Systemów opartych o sztuczną inteligencję nie można stosować bezkrytycznie - mówi prof. Dariusz Jemielak z Akademii Leona Koźmińskiego. - W tym przypadku coś poszło z automatu, zawiódł czynnik ludzki. Nie może być, że tego rodzaju decyzje są podejmowane całkowicie na podstawie algorytmu - dodaje.      

***

Tytuł audycji: Zapraszamy do Trójki
Prowadzi: Michał Matus
Autor materiału: Jacek Frentzel
Data emisji: 2.10.2024
Godzina emisji: 18.21

dm