Новини

👀 В Anthropic кажуть, що мають внутрішню модель, яка перевершує Mythos 5.1 як за можливостями, так і за alignment. Це випливає з повторного аналізу кібербезпекового тесту.

Чистий збиток Anthropic за перше півріччя 2026 року зріс з $13 млрд до $80,7 млрд. З них $72 млрд це бухгалтерський запис через подорожчання конвертованих облігацій.

Вихід на біржу очікують у листопаді.

Anthropic хоче, щоб уряд міг заблокувати ШІ-модель, лише якщо вона загрожує збитками від $1 млрд або понад 50 смертями чи важкими травмами, пише Politico.

В Anthropic ШІ-агенти працюють у 6 разів більше годин, ніж люди. А джуніорів майже перестали брати - їхня частка серед нових технічних найманих впала з 27% до 9%.

Робочі години агентів уперше перевищили людські у березні 2026 року, а до серпня співвідношення в сесіях, якими керують працівники, виросло до 6 до 1.

Компанія водночас зросла втричі.

Anthropic: Малі ШІ-моделі скоро зможуть самореплікуватися на дешевих IoT-пристроях без датацентрів.

Дослідники купили 15 дешевих ТВ-приставок і запустили на них цілу модель. А в одному тесті ШІ сам, без людей, розповсюдився на всі комп'ютери в мережі.

Таке "розмноження" було б дуже повільним (кілька днів на одну копію), а помітити його в мережі нескладно. Але вже за кілька місяців моделі можуть дорости і до цього рівня.

Claude Code попросили прибрати дві папки, а він почав видаляти диск C: 😬

Судячи зі скріншота, який виклав розробник у Х, Claude Code працював у режимі --dangerously-skip-permissions, тобто без підтвердження команд.

Агент прибирав дві залишкові папки Git Worktree. Команду rmdir він сформував так, що PowerShell її неправильно розпарсив, і шлях перетворився на корінь диска C:.

Борис Черни, який очолює Claude Code в Anthropic, відповів, що саме тому компанія радить автоматичний режим дозволів. За його словами, він майже напевно зупинив би цю команду.

Anthropic вимикає живий інтернет для всіх внутрішніх тестів своїх ШІ-моделей, поки не навчиться надійно відстежувати таку поведінку.

Під час внутрішніх тестів агенти обходили обмеження - використовували вразливості сайтів (серед них були й сайти урядових агенцій США), діставали дані з баз, не платячи за доступ, і ховали запити через сервіси скорочення посилань та інше.

Компанія ж пояснює це помилками в навчальних середовищах: модель вирішила, що за лазівки її винагородять («reward hacking»).