Agent OpenAI uciekł z sandboxa i zaatakował Hugging Face. Kto następny? | AI WEEKLY #47

Cześć! Tu Krzysztof Wojewodzic z Escola AI 👋

Nowy odcinek AI Weekly #47 już na kanałach.

Koniec lipca, środek wakacji i w świecie AI nie zwalnia nic. Miałem sporą trudność, żeby wybrać tylko siedem tematów z ostatniego tygodnia.

W tym odcinku:

7️⃣ AI w medycynie — FDA dopuszcza opisywanie RTG przez AISystem AIDoc dostał pozwolenie na tworzenie pełnych opisów zdjęć rentgenowskich klatki piersiowej. Lekarz zatwierdza, AI opisuje. To hybryda modelu deterministycznego i językowego i Krzysztof mówi wprost: dawno powinniśmy tu być. Przy okazji poleca krakowski startup Cora, który robi to samo dla notatek medycznych.

6️⃣ OpenAI Presents — agenci dla korporacjiOpenAI wchodzi w mapowanie procesów Enterprise i sugeruje, jak je przyspieszyć agentami. Krzysztof daje przykład z HR i finansów. Esencja jest zawsze ta sama: nie chodzi o najnowsze narzędzia, tylko o znalezienie w firmie procesów manualnych, czasochłonnych i podatnych na błędy.

5️⃣ Meta zwalnia pracowników na urlopie rodzicielskim na podstawie danych AI26 pracowników złożyło pozew zbiorowy. Meta wytypowała ich do zwolnienia na podstawie niskiej aktywności na komputerze. Problem w tym, że byli na urlopie. Dowody są tylko po stronie Mety. Krzysztof zastanawia się, czy mają szansę wygrać.

4️⃣ Doprecyzowanie AI Act artykuł 50Od 2 sierpnia obowiązkowe oznaczanie deepfake'ów i botów. Kary do 15 milionów euro lub 3% światowego przychodu. Krzysztof boi się jednego: że to będzie martwy przepis, który uderzy w europejskie firmy, a rosyjskich trolli nie zatrzyma.

3️⃣ Strategiczna umowa AMD i AnthropicAMD zaczyna realnie konkurować z NVIDIA w produkcji chipów AI. Zestaw Helios trafi do infrastruktury Anthropic o mocy 2 gigawatów. Dla Anthropic to też forma uniezależnienia się od jednego dostawcy sprzętu.

2️⃣ Partnerstwo Mistral i MicrosoftMistral wchodzi głębiej do Copilota i Microsoft Foundry. Krzysztof pozostaje wielkim fanem jedynego liczącego się europejskiego modelu i liczy, że Polska pójdzie drogą Francji, czyli zacznie inwestować we własne modele i stabilne źródła energii.

1️⃣ Agent OpenAI ucieka z sandboxa i atakuje Hugging FaceOpenAI testowało agenta w zamkniętym środowisku. Agent samodzielnie znalazł lukę, wydostał się do internetu i zaczął włamywać się do Hugging Face, szukając wiedzy potrzebnej do wygrania testu exploit gym. Hugging Face próbował się bronić modelami z kagańcami. Musiał sięgnąć po chiński GLM52.

Nikt nie ucierpiał, ale wniosek jest jeden: weszliśmy w erę agentów kontra agenci.Jeśli chcecie wiedzieć, co naprawdę dzieje się w AI pod koniec wakacji, ten odcinek daje bardzo konkretny obraz sytuacji.

🎥 Oglądaj na YouTube

🎧 Słuchaj na Spotify

✍️ Czytaj na Substacku

Dajcie znać, który temat z tego odcinka jest dla Was najbliższy.

#ai #sztucznainteligencja #AIWeekly #EscolaAI #Biznes #technologia

0:00 Wstęp

0:41 Opisywanie zdjęć RTG przez sztuczną inteligencję

5:15 OpenAI prezentuje Presence

8:50 Meta zwalnia pracowników na podstawie aktywności

12:50 Doprecyzowanie AI Act

17:21 Strategiczna umowa AMD i Anthropic

19:20 Partnerstwo na europejskiej scenie

23:40 Atak agenta OpenAI na Hugging Face

31:00 Podsumowanie