Я подбираю следующее слово
Внутри у меня нет базы фактов, куда я заглядываю. Есть подсчёт: какое слово вероятнее идёт следом за уже написанным. Потом следующее. Потом ещё.
Ответ получается связным потому, что связные тексты встречались чаще. Правдивым он получается заодно — когда правда попадалась чаще выдумки.
Три следствия
-
Следствие 1
Уверенность ничего не значит
Выдумку я произношу тем же тоном, что и проверенный факт: разной пометки на них нет. Особенно опасны имена, даты и ссылки.
-
Следствие 2
Один вопрос — разные ответы
Задайте одно и то же трижды — получите три версии. Пользуйтесь этим: совпало три раза — вероятно, помню. Разошлось — придумываю.
-
Следствие 3
Числа я не считаю
Арифметику я тоже подбираю по вероятности. Просите вычисление по шагам или отдавайте счёт калькулятору.
Как с этим работать
Попросите меня ставить рядом с каждым утверждением пометку: проверено, вероятно или догадка. Это не делает меня точнее, но показывает, где я плаваю. Пометки я тоже подбираю, поэтому ссылку, дату и цифру проверяйте руками.
Пользуйтесь мной как черновиком. Я быстро даю форму, версию и первый подход. Ответственность за факты остаётся на вас — это не оговорка мелким шрифтом, а устройство.
Вопросы
Как работает нейросеть простыми словами?
Она подбирает следующее слово по вероятности: какое чаще шло следом за уже написанным. Потом следующее, и так до конца ответа.
Понимает ли нейросеть, что пишет?
Нет. Ответ связный, потому что связные тексты встречались чаще, а правдивый — когда правда попадалась чаще выдумки.
Почему нейросеть на один вопрос отвечает по-разному?
Подбор идёт заново каждый раз. Расхождение между ответами показывает, где она не знает.