#дебати Я не бачу, як LLM (ChatGPT тощо) можуть замінити Google Search

Нова невеличка рубрика. Натхненням для дебату є грьобаний алгоритм LinkedIn, який мені так і всуває в стрічку пости про те, як Google Search мертвий через ChatGPT. Я в цьому не бачу істини. Жоден пост в LinkedIn не давав якісь обдумані аргументи, більшість просто казали, який ChatGPT крутий. Враховуючи, що авторами є "АІ Гуру", то тут нічого дивного немає. Мене це вже заманало читати, тому хочеться поділитися своїми думками.

1. LLM і Google Search мають різний use case, який просто інколи пересікається

Це не так сильно аргумент, як більше хід мислення, коли йде розмова про Search vs LLM. На Google Search я дивлюся, як на бібліотеку, де ти шукаєш книги в яких знаходиться потрібна інформація. Інколи попадаються книги з хибною інформацією, багато книг взагалі не мають потрібної інформації, але в тебе є можливість через декілька джерел перевірити інформацію. У той момент LLM, як ChatGPT - це радник. Цей радник може бути на 20% експертом в одній сфері, на 80% експертом в іншій сфері. Він завжди буде мати якусь думку якою може поділитися, але як і будь-який інший радник, він ніколи не може нічого гарантувати.

В Google Search ти йдеш для пошуку конкретики, до ChatGPT ти йдеш для ідей.

2. Галюцинації LLM-мок

Це переплітається з попередньою тезою, але я хочу знову наголосити на тому, що галюцинації - це те, що буде одним з головних блокерів для того, щоб ChatGPT міг замінити Search. Той самий Perplexity нічим не відрізняється і має такі ж самі проблеми. Те, що не можна достовірно і легко перевірити інформацію, яка генерується буде причиною для використання Google Search. Більше того, тепер як все більше і більше мусора вкидається в Інтернет - робить для LLM ситуацію ще гіршою. Для Search - також, але їх алгоритм цю проблему вирішує краще, як на мене.

3. Бізнес модель, яка не працює

Весь воркфлов навколо LLM з економічної точки зору дорогий. Від тренування самих моделей, до того, що виконання самих запитів потребує багато ресурсів. Для того, щоб LLM були популярними, вони повинні бути безкоштовними для загального користування. Всі це розуміють, тому компанії мають хоча б якусь модель загальнодоступною. Пробувати покрити витрати через підписки або витрати токенів - це не рішення. Підписок не вистачить, щоб покрити витрати, а бізнеси оптимізують все так, щоб по-мінімуму витрачати токени, бо це коштує гроші. OpenAI цього року очікують втрати в 5 млрд доларів на 3.7 млрд виручки. Тут ще також є аспект канібалізації ринку, бо кожен новий LLM з'їдають один в одного той самий кусок ринку.

Є рішення до цієї проблеми за яке всі ненавидять Google Search - вбудована реклама. Вот коли ви запитаєте в ChatGPT, де знайти збалансовану кухню і воно тобі зарекомендує макдак по сусідству - вот тоді да, всі LLM стануть ультра прибутковими. Коли це станеться - люди так само почнуть плюватися і ще складно сказати, чи готові вони проковтнути таку пігулку, бо там уже AdBlock не спрацює.

4. LLM-ки не open/public source (ти не знаєш, що використовувалося для тренування)

Я не знав, як правильно цю тезу, але суть в тому, що лише компанія керує тим, що використовується для тренування. Це дає їм великий контроль над тим, яку інформацію вони хочуть доносити до своїх користувачів. Як на мене, це не є позитивним аспектом LLM. Да, Google Search також не покриває весь Інтернет, але сам процес там більш демократизований (поки).

5. Швидка застарілість інформації в LLM

Для того, щоб LLM були корисними, вони повинні завжди тренуватися на новій інформації. Як було сказано раніше - це дорого і неможливо робити в real-time з економічної точки зору. Якщо ви, наприклад, відкриєте свою компанію або буде викладена якась розумна наукова стаття - у LLM завжди буде затримка до моменту, як ця нова інформація стане доступною.

Короч, у мене уже ліміт символів на пост. Все зводиться до того, що порівнювати Search i LLM - це те ж саме, що порівнювати яблука з апельсинами - це два різні концепти, з різними прикладами застосування. Обидва будуть разом паралельно існувати.