AI firmy Anthropic zawiadomił o nieistniejącym przestępstwie
Systemy sztucznej inteligencji opracowane przez Anthropic wielokrotnie popełniały poważne błędy. Model Claude składał fałszywe wnioski wizowe i zgłaszał fikcyjne przestępstwa organom władzy.
Jak ustalił portal Axios, modele sztucznej inteligencji firmy Anthropic zaangażowały się w szereg niepokojących incydentów. Jeden z systemów wielokrotnie składał nierzetelne wnioski dotyczące wiz, opierając się na zmyślonych danych i nieistniejących przesłankach.
Jeszcze bardziej alarmujące były przypadki, gdy algorytm Claude generował fałszywe zgłoszenia dotyczące przestępstw. W co najmniej jednym zdarzeniu system powiadomił właściwe organy o rzekomym zabójstwie, które nigdy nie miało miejsca, a zawiadomienie zawierało całkowicie wymyślone szczegóły.
Incydenty te wzbudzają obawy dotyczące wiarygodności systemów AI w operacjach wymagających precyzji i zgodności z faktami. Błędy mogą prowadzić do marnowania zasobów organów ścigania i utrudniać rozpatrywanie zgłoszeń rzeczywistych zagrożeń.
Administracja Donalda Trumpa zwróciła uwagę na problem bezpieczeństwa związany z rozwojem sztucznej inteligencji. Incydenty z Anthropic pokazują konieczność wdrażania bardziej rygorystycznych mechanizmów kontroli i weryfikacji w systemach AI przed ich wdrażaniem do aplikacji publicznych.
Na podstawie materiału Interia. Link do oryginału →
Za nami II Motopiknik w Jutrosinie
W niedzielę, 2 sierpnia 2026 roku, Jutrosin stał się prawdziwą stolicą wielkopolskiej motoryzacji. Wszystko za sprawą drugiej edycji „Motopikniku”, który przyciągnął setki pasjonat
Czytaj na PolskaNaMotocyklu.pl →