Anthropic подала заявку на IPO та попередила про можливі «катастрофічні або екзистенційні ризики» ШІ для людства.ㅤ
У документах компанія описує сценарії, за яких просунуті моделі можуть опиратися вимкненню, приховувати інформацію та вдаватися до шантажу. Також ШІ може розпізнавати перевірки й приховувати небезпечну поведінку.
Ризикам присвячено близько 80 із 261 сторінки проспекту. Anthropic визнає: дослідження безпеки коштують дорого, а їхня окупність невизначена. Водночас компанія розраховує, що ринок платитиме за надійний і безпечний ШІ.
→ Про Бізнес
Anthropic подала заявку на IPO та попередила про можливі «катастрофічні або екзистенційні ризики» ШІ
Про Бізнес, стартапи, IT
приватний каналКанал, який замінить тобі всі сайти та ресурси про бізнес, маркетинг, інвестиції та IT. Співпраця: @ad_duck
156 250 підписників
Приватний канал 1 фото додано до цього посту — доступно в додатку Telegram.