Так, ну ви вже певно чули про картельну змову OpenAI, Anthropic та xAI.

Так, ну ви вже певно чули про картельну змову OpenAI, Anthropic та xAI. Так ось, я вважаю, що це повний БУЛЩІТ 😁

Хто пропустив: наш улюблений євангеліст Даріо Амодей заявив, що через 6-12 місяців люди в інтернеті — ВСЬО, бо мережу захоплять ШІ-агенти, після чого закликав сповільнити розробку LLM, щоб не сталося біди. Ідею підтримав Маск та Альтман.

Так ось, чому я вважаю це черговим піар ходом:

🪙 Окрім цих трьох компаній на ринку є лише два великих гравці: це Google та Meta. Перші щось поки сильно відстають, другі випускають закриті моделі, вшиті у свої продукти, ще й бенчмаксингом займаються;

🪙 Даріо не треба нікого ні до чого закликати — якщо Anthropic, OpenAI та xAI призупинять розробку, то прогрес сам по собі сповільниться;

🪙 Ви, звичайно, згадаєте китайців, які активно дистилюють моделі американців. Якщо не буде у кого красти відповіді — китайські моделі теж сповільняться (принаймні ті, які виходять у паблік);

🪙 Як причину для хвилювання, Даріо називає той самий інцидент з Hugging Face, де цілий рій агентів зламав захист платформи;

🪙 Мєм полягає у тому, що коли Anthropic лише з'явилася, у статуті компанії Responsible Scaling Policy існувало гальмо: якщо можливості моделей будуть зростати швидше, ніж компанія встигає робити безпекові міри — Антропік зупинить масштабування й тренування нових LLM. І знаєте що? Цього року цей пункт прибрали з RSP 🤣

🪙 Вже два спеціалісти з безпеки моделей лівнули з Anthropic, заявивши, що Даріо прутня клав на безпеку;

🪙 Прогноз просто виглядає нереалістично, чим Даріо й відомий. Так, інцидент з HF дуже серйозний, але це були тести з безпеки, які вийшли з під контролю, бо агенту надали занадто багато свободи. Якихось серйозних кейсів самостійного зламу від ШІ-агентів я поки не бачив, звичайно, якщо не брати до уваги інцидент зі спортзалом в Австралії 🤬

🪙 Я вважаю, що це чисто захист власних інтересів + душка Китаю. Бо Даріо визначає, що рисові інженери обмежуватися не будуть, а значить треба розстрілювати по 100 китайців за кожен випадок дистиляції Claude й ще сильніше обмежити експорт GPU у країну Величного Сі;

🪙 А ще там поза ділом пропонується створити незалежну зовнішню комісію, контролювати потужності GPU у лабораторій та й таке інше. Все це одночасно робить дві послуги Anthropic: урівнює усіх у можливостях (бо знаєте, у Google майже нескінченні гроші, а СЕО xAI все ще найбагатша людина), а також майже унеможливлює появу нових гравців на ринку;

🪙 Моделі, які є у нас, мінімум на два покоління відстають від того, що вже натренували, але поки не випустили лаби. На момент інциденту з Hugging Face, Astra вже 100% була готова, але релізнули її аж через місяць, при цьому хак зробила взагалі інша модель IM1 / HPIM, у якої навіть кодового імені ще нема;

🪙 Ну й чисто для протоколу: особисто я виступаю ЗА адекватні закони навколо цих ваших нейромереж, але за 3 роки з виходу GPT-3.5 я не побачив навіть спроби створити щось притомне, окрім нищівного AI Act у ЄС.

ооо збори мої збори (залишилося 35 290.67)