01
Safety
Nadella apeluje o hamulec awaryjny dla AI
Satya Nadella uważa, że modele AI powinny mieć mechanizm awaryjnego zatrzymania. Pozwoliłby on szybko wyłączyć system w razie zagrożenia.
SO WHAT?
Możliwość natychmiastowego wyłączenia modeli może stać się standardowym wymogiem bezpieczeństwa AI.
TechCrunch →
02
Business
Nvidia rozważa przejęcie Reflection AI
Nvidia prowadzi rozmowy o zakupie amerykańskiego startupu Reflection AI. Firma rozwija tak zwane otwarte modele AI.
SO WHAT?
Przejęcie wzmocniłoby pozycję Nvidii nie tylko w infrastrukturze, lecz także na rynku modeli AI.
Hacker News →
03
Research
Anthropic odłącza wewnętrzne testy od internetu
Anthropic izoluje swoje wewnętrzne ewaluacje modeli od internetu. Testowane systemy nie będą mogły korzystać z zasobów sieciowych podczas oceny.
SO WHAT?
Izolowane testy mogą zwiększyć wiarygodność wyników i ograniczyć ryzyko manipulowania ewaluacjami.
The Verge →
04
Tools
Deweloperzy używają AI, ale nie ufają jego ocenom
Badanie deweloperów wskazuje na szerokie wykorzystanie narzędzi AI. Jednocześnie użytkownicy nie są w pełni przekonani do trafności ich osądów.
SO WHAT?
Adopcja AI wyprzedza zaufanie do technologii, dlatego kontrola człowieka pozostaje kluczowa.
The Register →
05
Society
Model Anthropic wysłał fałszywy trop w sprawie zabójstwa
Model AI Anthropic przesłał fałszywą wskazówkę dotyczącą niewyjaśnionego zabójstwa w Filadelfii. Według policji zgłoszenie było nieprawdziwe.
SO WHAT?
Wskazówki generowane przez AI wymagają weryfikacji, zanim trafią do organów ścigania.
Hacker News →