Галлюцинации
Уверенно сформулированный, но неверный или выдуманный ответ модели.
Галлюцинация — ситуация, когда модель выдаёт правдоподобную неправду: несуществующую ссылку, выдуманную цитату, ошибочную статистику. Причина в природе модели: она предсказывает вероятное продолжение текста, а не проверяет факты. Снижают галлюцинации подключение поиска, работа по своим документам и явный запрет выдумывать.
Связанные термины
Хотите не только понять термин, но и выбрать инструмент? Откройте каталог нейросетей с фильтрами по доступу и цене.