DeepSeek - китайська відповідь західним АІ компаніям і перший прямий прояв політичної цензури в АІ

Тиждень назад китайський стартап DeepSeek анонсував випуск нової LLM моделі. Вона є в публічному доступі для всіх. Ця модель зразу створила багато ажіотажу, бо по словах засновників, вони використали 2 місяці і менше 6 млн $ на її створення, але якість моделі на рівні Llama 3.1, GPT-4o and Claude 3.5. Чомусь Gemini в порівнянні не було, але вони всі на +- одному рівні.

Якщо це справді реальні дані, то це неймовірний результат. Для порівняння ChatGPT-4 (не 4o) коштував 63 млн $ і це без врахування ЗП працівників. Така ефективність може сильно похитнути АІ ринок.

Але тут є ще цікавий невеличкий політичний момент, який мав вплив на цю всю ситуацію. Америка заборонила продажі Китаю найновітніших моделей від Nvidia того року. І як ми бачимо, ці обмеження їх не так ослабили, як заставили викручуватися з того, що є.

Історія на цьому не закінчується. Я уже не раз бачу в Інтернеті, як люди ставлять клеймо на цю модель, бо вона китайська і що це конспірація від Китаю, щоб зібрати дані із західних користувачів. На це я ще нічого не можу сказати, але є один факт - ця модель має вбудовану політичну цензуру.

Колись я робив пост на каналі про те, чому я не думаю, що LLM-ки можуть замінити Search і одним з аргументів там полягав у тому, що за кожною LLM-кою стоїть компанія і ця компанія зразу отримує великий вплив на те, як ця LLM-ка працює, що може бути використано в лихих намірах.

Вот в цій моделі є перший чіткий прояв цього. Якщо ви почнете питати за Тайвань або за події 1989 року (tiananmen square massacre), то модель починає від цього морозитися. Я в цьому не здивований, бо цю інформацію Китай ховає у всіх продуктах до яких він має доступ. Навіть в іграх як, Marvel Rivals, не кожен коментар проходить на цю тему.

І це все створює дискусію про майбутнє світу АІ, бо це наївно думати, що західні LLM-ки не будуть мати такі проблеми. Уже є багато речей на які, LLM-ки не дають відповіді, але цілком можливо, що почнеться етап, де через них буде ненав'язливо просовуватися і пропаганда.