Anthropic подала заявку на IPO та попередила про можливі «катастрофічні або екзистенційні ризики» ШІ для людства.ㅤ
У документах компанія описує сценарії, за яких просунуті моделі можуть опиратися вимкненню, приховувати інформацію та вдаватися до шантажу. Також ШІ може розпізнавати перевірки й приховувати небезпечну поведінку.
Ризикам присвячено близько 80 із 261 сторінки проспекту. Anthropic визнає: дослідження безпеки коштують дорого, а їхня окупність невизначена. Водночас компанія розраховує, що ринок платитиме за надійний і безпечний ШІ.
→ Про Бізнес
Anthropic подала заявку на IPO та попередила про можливі «катастрофічні або екзистенційні ризики» ШІ
Про Бізнес, стартапи, IT
ערוץ פרטיКанал, який замінить тобі всі сайти та ресурси про бізнес, маркетинг, інвестиції та IT. Співпраця: @ad_duck
156,250 מנויים
ערוץ פרטי 1 תמונה מצורף לפוסט זה — גלוי באפליקציית טלגרם.