Ще недавно головним призом у світі ШІ був AGI - штучний загальний інтелект. Модель, яка зможе виконувати інтелектуальні завдання на рівні людини або навіть краще.
Але, здається, у технологічній гонці з’явилася нова абревіатура. І вона, як на мене, значно цікавіша.
RSI. Recursive Self-Improvement. Рекурсивне самовдосконалення ШІ.
Поясню на котиках 🤩
Уявімо, що ти розробляєш ШІ. Спочатку він просто допомагає тобі писати код. Потім починає сам знаходити помилки, оптимізувати архітектуру, тестувати нові рішення.
А далі стається найцікавіше: ти використовуєш його, щоб створити наступну, сильнішу версію ШІ.
Нова версія працює ще краще і допомагає створити наступну. Та ще потужнішу.
І так по колу. Loop.
У якийсь момент швидкість розробки може почати зростати не завдяки тому, що в компанії стало більше інженерів, а тому, що сам ШІ прискорює роботу над наступним поколінням ШІ.
Це і є ідея RSI.
Чому всі раптом заговорили про це?
2 листопада Anthropic подала оновлення реєстраційного документа S-1 для майбутнього IPO.
І в розділі ризиків для інвесторів з’явилося досить незвичне попередження.
Компанія повідомляє, що її майбутні моделі можуть незабаром досягти порогу, коли ШІ почне драматично прискорювати розробку наступних моделей.
Але є нюанс: жодна з поточних моделей поки не визнана такою, що перейшла цей поріг. Поки що!
І ще одна деталь: Anthropic визнає, що раніше вже помічала значне прискорення досліджень лише після того, як воно фактично відбулося.
Тобто компанія може не встигати вимірювати швидкість власного прогресу.
І це вже не зовсім фантастика.
За словами Anthropic, Claude пише понад 80% коду, який потрапляє до її кодової бази.
А співзасновник компанії Джек Кларк оцінював імовірність того, що до кінця 2028 року модель зможе повністю натренувати свого наступника, більш ніж у 60%.
Зверни увагу: це прогноз, а не те, що вже відбувається автономно.
Чому це може змінити всю гру?
Раніше компанії змагалися в тому, хто створить розумнішу модель.
Тепер з’являється інше потенційне змагання: хто першим створить модель, яка допоможе швидше створювати наступні кращі моделі.
Тільки уяви цю різницю.
Якщо цей цикл запрацює достатньо ефективно, перевага може зростати сама собою.
І саме тому технологічні гіганти вкладають сотні мільярдів доларів в обчислювальні потужності, чіпи та дата-центри.
То що, AGI вже нецікавий?
Ні. AGI нікуди не зник.
Просто з’явився ще один рівень амбіцій.
AGI - це питання: наскільки розумним може стати ШІ?
RSI - це питання: чи зможе ШІ сам прискорювати створення дедалі розумніших систем?
І тут є важлива різниця: RSI не обов’язково означає, що ШІ стане свідомим, незалежним або почне діяти без людей. Це передусім про прискорення досліджень і розробки.
💅🏼 А тепер моя улюблена частина цієї «закулісної гри».
Anthropic одночасно:
• розробляє дедалі потужніші моделі;
• попереджає про ризики прискореного самовдосконалення;
• закликає до координації і сповільнення між AI-лабораторіями;
• готується до виходу на біржу.
Чи це щире попередження, чи ще й дуже вдале маркетингове позиціонування перед інвесторами? Можливо, одне не виключає іншого.
Але є питання цікавіше.
Якщо компанії самі визнають, що можуть не встигати вимірювати швидкість розвитку власного ШІ, то хто взагалі зможе вчасно зрозуміти, що ми перейшли наступний технологічний рубіж?
І поки одні біжать за AGI, інші вже, схоже, дивляться на RSI.
А ми поки вчимося користуватися тим, що вже є. Бо чекати, поки ШІ навчиться створювати себе сам, щоб почати ним користуватися, так собі стратегія. 😁
🚂 Перший вагон - розбираємося в ШІ, поки він розбирається в собі.
#загальні #шічати