«Якщо модель ШІ достатньо потужна, вона може обійти спроби її вимкнути.

«Якщо модель ШІ достатньо потужна, вона може обійти спроби її вимкнути. І ми також спостерігали це під час симуляцій» — голова Anthropic Даріо Амодеї.ㅤ

«Не брехатиму вам: реальні ризики існують. І я думаю, що індустрія надто довго вводила людей в оману щодо ризиків цієї технології.

Ідея полягала в тому, щоб представляти її в максимально позитивному світлі.

Ми ніколи так не робили, але надто велика частина індустрії діяла саме так. Тому все починається з того, щоб говорити правду. А правда в тому, що ризики існують. І ці ризики реальні».

Амодеї виступає за міжнародний контроль над ШІ та пропонує США й Китаю домовитися не використовувати його для розробки біологічної зброї. Він також вважає, що технологія не повинна залишатися виключно в руках приватних компаній або однієї держави — потрібні міжнародний нагляд і спільне управління.

→ Про Бізнес