Річард Енгель з подкасту The World провів круту розмову з Еріком Шмідтом, колишнім CEO Google, який,

Річард Енгель з подкасту The World провів круту розмову з Еріком Шмідтом, колишнім CEO Google, який, як виявилося, раніше був головою Комісії США з національної безпеки щодо ШІ.

Частина 2.

💬 Найважче — дивитися їхні [українські] командні пункти. Вони збудували щось на кшталт Google Maps по війні. Бачиш російський літак. Його ловлять радари та інші сенсори. Потім видно, як скидають планерну бомбу. Навіть визначають тип. І вони точно знають, куди вона летить. І не мають чим її зупинити.

Q: NYT нещодавно писала про російську бомбу з чипом NVIDIA: останню ділянку шляху вже вів ШІ. Тобто в кінці ціль обрав алгоритм. Це куди все йде?

💬 Наведу жорстокий приклад. Можна зробити зброю, яка шукає людей і б’є по людях. Боєць виглядає як людина. Виявити людину, яка йде полем, і автоматично взяти її в приціл — нескладно. Але бити так без [схвалення] людини — порушення законів війни. Цілком можливо, що Росія зробила таку систему на комп’ютерному зорі.

Інший приклад. Відносно легко зробити зброю, яка стріляє лише в лице. Я цього не пропоную. Просто пояснюю логіку: є приціл, є лице, комп’ютери дуже добре розпізнають обличчя — і постріл іде автоматично. Зрозуміло?

Q: Тобто ракета "заряджена" профілем людини: бий такий тип цілі. Знайшов — бий. Не корову, а людину.

💬 Так. Людину, не корову. Танк, не легковик. Пускову, не вантажівку. Це давно відпрацьована технологія. У комп’ютерах їй років двадцять. Той самий принцип, що розблокування iPhone чи Android обличчям.

💬 ШІ — це навчання і передбачення. ШІ — не просто «комп’ютер влучніше цілиться». Повноцінного ШІ в цій війні ми ще не бачили. Ми бачили автоматизацію. .. Спочатку підуть автоматичні системи захоплення цілі. І пам’ятайте: така система цілитиметься також у чужу зброю. Літатиме, шукатиме ворожий дрон і битиме його. Цього буде багато з обох сторін. Якщо війна — це дрон проти дрона, цей шар автоматизують.

Q: Припустімо, це буде і в України, і в Росії. Як вони поводитимуться?

Людина не керує роєм із тисячі дронів. Комп’ютер — керує. Думаю, комп’ютери почнуть будувати плани бою всередині рою. Вони використовуватимуть навчання з підкріпленням, щоб навчитися найкраще атакувати ціль. Ці алгоритми будуть надсекретними.

Моя надія така: коли це буде в обох, жодна сторона не захоче атакувати першою. Бо не знатиме, що зробить алгоритм противника. Він буде надто сильний. Це моя надія.

Q: В інтерв’ю журналу Naoma ви казали: майбутнє — це людина «на контурі», а не завжди «в контурі». Вона наглядає, перевіряє, втручається, коли щось не так. Але не обов’язково дає дозвіл на кожен окремий постріл. Ви про це? Дрони з заздалегідь заданими цілями. Побачили ціль — не чекають людини, бо часу немає. Це вже близько?

💬 Вважаю, це дуже ймовірно. У США це вже інтерпретовано в правилах. Я допомагав їх писати, коли працював на Пентагон. За американським законом не можна просто запустити апарат і кілька днів блукати в пошуках цілей. Але якщо є розвіддані і людина дивиться — автоматизація в цих межах дозволена. Я казатиму точніше: автоматична діяльність. Шукати, захоплювати, бити, захищатися. Думаю, саме таким буде результат

Q: Так і має бути, хотілося б. Із якимись обмеженнями

💬 Я в це вірю. Думаю, таким буде правило НАТО. І дуже впевнений: Росія його не дотримуватиметься. Китай — теж.

Q: Якщо ми входимо у світ автоматичних ударів, але ви кажете, що це ще не ШІ-війна.

💬 Справжня ШІ-війна глибша: система вчиться. Ми вже бачимо на полі бою, як системи вчаться самі, роблять висновки, покращуються на ходу, щоб рої координувалися і розуміли, що спрацювало, а що ні. Тому поки ні. Але очікую скоро. У Росії вже є відео, mesh-мережі і звіти, як працює їхня зброя. Наступний логічний крок — учитися на цьому і покращувати алгоритми. Я цього не заохочую. Просто не варто себе обманювати. Вони рішуче налаштовані знищити Україну. Є всі підстави думати, що вони вже в цьому навчальному циклі або входять у нього.

До того ж широко використовують великі мовні моделі. Китай викладає відкриті моделі, дуже здатні до такого. Були повідомлення, що Росія ними користується. Сам я цього не підтверджу. Але дуже схоже, що Китай або дає, або допомагає Росії це робити.

З українського боку я намагаюся донести саме цю частину про ШІ. .. Ось де Захід міг би реально допомогти Україні — якби захотів.

Q: Ядерну зброю розробляли в Другій світовій з однієї причини: боялися, що нацисти зроблять її першими. Її створювали люди, які розуміли: це огидна зброя, здатна знищити людство. Контроль з нею почали ставити ще до того, як її доробили. У ШІ інша історія. Це машина ефективності. Вона виросла з ігор, із завдань у рамках, заданих людиною. Її не будують із тим самим страхом і тією самою обережністю. Чи означає це, що ШІ-війну ми не контролюватимемо так само як ядерну?

💬 Можливо, саме війна Росії проти України стане каталізатором цього розуміння. Якщо дивитися на ядерне стримування: бомба в США — 1945-й, у СРСР — 1949-й. Чотири роки. .. Сьогодні це війна інновацій днями, не роками. Я бачу: з’являється щось нове — і за три – чотири місяці інша сторона знаходить, як це притупити. Це війна адаптацій. Один хід — відповідь — знову хід.

Природу цієї війни можна зрозуміти як гонитва інновацій вгору по тій драбині, яку я описав. ШІ в такому разі лише прискорить увесь цикл. Зробить усе розумнішим, швидшим, швидше спроєктованим. Питання в іншому. Якщо його матимуть обидві сторони рівномірно — чи стане він стримуванням для обох? Чи Росія вирішить, що в українців немає чогось, що є в неї, і ризикне? Тоді це може стати трагедією для обох сторін.