Маргулан Сейсембаев объясняет, почему ChatGPT и другие нейросети распространяют ложную информацию. Они обучаются на данных из Википедии и Google, где полно фейков и ошибок. Модель синтезирует ответы без ссылок на источники, выдавая неправду за факт.
Chapters
Проблема нейронки заключается в том, что он натренирован на Википедии, он натренирован на Гугле. Если вы откроете Википедию и Гугл, вы можете увидеть там миллион фейков. Соответственно, чат GPT был натренирован и на достоверных данных, и на фейковых в том числе. Соответственно, чат GPT— это просто другой интерфейс. Это как бы, условно говоря, раньше ты писал в Гугл, запросы делал, это не так удобно. Представь, что ты поставил умного помощника, который из Гугла и Википедии дает тебе выжимки и отдаёт. Да, он не даёт тебе тысячу ссылок, он тебе даёт решение. Да, даёт решение, но это решение основано на Гугле и Википедии, а там куча фейков.