Anthropic подала заявку на IPO та попередила про можливі «катастрофічні або екзистенційні ризики» ШІ для людства.ㅤ
У документах компанія описує сценарії, за яких просунуті моделі можуть опиратися вимкненню, приховувати інформацію та вдаватися до шантажу. Також ШІ може розпізнавати перевірки й приховувати небезпечну поведінку.
Ризикам присвячено близько 80 із 261 сторінки проспекту. Anthropic визнає: дослідження безпеки коштують дорого, а їхня окупність невизначена. Водночас компанія розраховує, що ринок платитиме за надійний і безпечний ШІ.
→ Про Бізнес
Anthropic подала заявку на IPO та попередила про можливі «катастрофічні або екзистенційні ризики» ШІ
Про Бізнес, стартапи, IT
private channelКанал, який замінить тобі всі сайти та ресурси про бізнес, маркетинг, інвестиції та IT. Співпраця: @ad_duck
155,776 subscribers
Private channel 1 photo is attached to this post — visible in the Telegram app.