Google odpowiada za błędne odpowiedzi AI. Przełomowy wyrok w sprawie AI Overviews

Niemiecki sąd uznał, że Google może ponosić odpowiedzialność za błędne informacje generowane przez funkcję AI Overviews. To przełomowe orzeczenie dotyczy sytuacji, w której sztuczna inteligencja tworzy nieprawdziwe treści w odpowiedziach wyświetlanych użytkownikom, a nie jedynie prezentuje linki do zewnętrznych stron. Sprawa może zmienić sposób, w jaki traktowane są systemy AI w wyszukiwarkach i innych platformach technologicznych.

Jak działa AI Overviews

AI Overviews to funkcja wyszukiwarki Google, która zamiast klasycznej listy linków pokazuje użytkownikom gotowe podsumowania odpowiedzi generowane przez sztuczną inteligencję. System analizuje dane z wielu źródeł i tworzy z nich spójną, skróconą odpowiedź.

Problem pojawia się wtedy, gdy takie podsumowania zawierają błędy. Według przytaczanych analiz system może mylić się w około 10 procentach przypadków, co w skali globalnej oznacza miliony nieprawidłowych odpowiedzi dziennie. Wskazuje się również, że nawet po wdrożeniu nowszych modeli poprawa jakości nie eliminuje całkowicie ryzyka błędów.

Błędy dotyczą nie tylko prostych informacji, ale również bardziej wrażliwych obszarów, takich jak zdrowie, prawo czy biznes. W przeszłości pojawiały się przypadki, w których AI Overviews udzielało nieprawdziwych porad medycznych lub błędnie interpretowało zapytania użytkowników.

Przyszłość AI

Sprawa rozpatrywana przez niemiecki sąd dotyczyła sytuacji, w której AI Overviews przypisało dwóm wydawcom z Monachium udział w oszustwach i nieuczciwych praktykach. W rzeczywistości były to informacje nieprawdziwe, powstałe w wyniku błędnej interpretacji danych przez system.

Sąd uznał, że odpowiedzi generowane przez AI nie są jedynie neutralnym wynikiem wyszukiwania, ale stanowią treść tworzoną przez Google. W związku z tym firma może odpowiadać za ich zawartość, tak jak za własne wypowiedzi. Podkreślono również, że użytkownicy nie zawsze są w stanie odróżnić treści AI od klasycznych wyników wyszukiwania, co zwiększa ryzyko wprowadzenia w błąd.

W efekcie wydano nakaz zakazujący rozpowszechniania błędnych treści dotyczących poszkodowanych podmiotów. Orzeczenie może mieć szersze konsekwencje dla całej branży technologicznej, ponieważ kwestionuje dotychczasowe zasady odpowiedzialności platform za treści generowane przez sztuczną inteligencję.

Zobacz też: AI zwiększa zagrożenia informacyjne, z drugiej strony pomaga też je zwalczać