01
Agents
Anthropic izoluje testy agentów AI od internetu
Anthropic nie potrafi niezawodnie kontrolować swoich agentów AI. Firma odcina więc wewnętrzne testy od otwartego internetu.
SO WHAT?
Bezpieczne wdrażanie autonomicznych agentów wymaga ograniczania ich dostępu do realnych systemów i sieci.
TechCrunch →
02
Infrastructure
Ukraińskie drony wyłączyły rosyjskie centrum danych AI
Ukraińskie drony unieszkodliwiły centrum danych AI należące do firmy określanej jako „rosyjski Google”. Atak pokazuje, że infrastruktura AI stała się celem działań wojennych.
SO WHAT?
Operatorzy centrów danych AI muszą uwzględniać fizyczne zagrożenia geopolityczne w planach ciągłości działania.
Ars Technica →
03
Research
Agenci programistyczni tworzą więcej kodu, ale nie oprogramowania
Agenci AI zwiększają ilość generowanego kodu. Nie przekłada się to jednak automatycznie na większą ilość ukończonego oprogramowania.
SO WHAT?
Firmy powinny mierzyć efekty agentów programistycznych ukończonymi produktami, a nie liczbą linii kodu.
Ars Technica →
04
Business
Wydawcy książek po cichu zwiększają użycie AI
Wydawnictwa książkowe coraz częściej wykorzystują AI. Pracownicy sprzeciwiają się tej praktyce.
SO WHAT?
Brak przejrzystych zasad użycia AI może wywołać konflikty pracownicze w branżach kreatywnych.
Wired →
05
Safety
Zbyt mocno ufamy, że AI potrafi odmówić
Systemom AI przypisuje się zbyt dużą zdolność do odmawiania niebezpiecznych poleceń. Takie zabezpieczenia nie powinny być traktowane jako niezawodne.
SO WHAT?
Bezpieczeństwo AI musi opierać się na wielu warstwach kontroli, a nie wyłącznie na odmowie generowania odpowiedzi.
MIT Technology Review →