Anthropic встигла і попередити про біозагрозу і лабораторію відкрити.
▪️11 вересня Anthropic опублікувала п'ять кейсів, де Claude намагалися використати для завдань, що можуть допомогти у створенні біологічної зброї і назвала біологічне застосування однією з найсерйозніших загроз від передових моделей.
▪️А 18 вересня стало відомо, що та сама компанія тихо побудувала власну біологічну лабораторію в районі Сан-Франциско і розгортає доклінічні програми.
Anthropic переходить від порад ученим у чаті до фізичних експериментів: працює зі зразками, лабораторним обладнанням і роботами. У перспективі Claude має керувати такими роботами з мінімальним втручанням людини, хоча Anthropic окремо наголошує: людина залишається обов’язковим контролером.
Anthropic продає AI-інструменти великим фармкомпаніям і водночас планує власні доклінічні програми у сферах, якими фармі може бути економічно невигідно займатися.
Компанія каже, що не конкуруватиме з клієнтами: їхні дані будуть ізольовані, а до клінічних випробувань Anthropic поки не планує переходити. Водночас конкретних захворювань чи програм вона не називає, а представник компанії навіть заявив, що лабораторія не створювалася суто для пошуку ліків.
Тут і виникає цікаве питання: де закінчується AI-сервіс для фарми й починається ще одна фармкомпанія?
Формального протиріччя тут немає. Ще в "Machines of Loving Grace" Амодеї писав, що люди однаково недооцінюють і вигоду і ризик від ШІ в біології.
Аргумент компанії в тому, що небезпечним є доступ саме непідготовлених людей до знань, а не ліцензована лабораторія під наглядом фахівців.
___
І, знову ж таки, зараз в усіх цих проектів є виправдання - "якщо не ми, то Китай". Америка справді може сама вирішувати, як розвивати штучний інтелект. Але вона не може вирішувати, чи продовжуватиме штучний інтелект розвиватися. Якщо США зупиняться через побоювання щодо майбутнього, Китай не зупиниться разом із ними...😬
Лише одна технологія так швидко ставала геополітичним інструментом - ядерна.
Сайт | LifeHUGS |AgentHUGS| YouTUBE Еріка Наймана