Ошибки ИИ - это наше зеркало
Иначе будет как, например, с жалобами на контекстную рекламу.
Мол, я девушка приличная, но куда ни пойду, всюду на сайтах баннеры с 18+ тематикой. Ну что тут сказать... что смотрите, то вам "умная" реклама и подкидывает
ИИ использует информацию, которую мы же сами, люди, оставили.
И в процессе обучения ИИ сидели сначала умные люди, а потом обычные люди и говорили ИИ какой его ответ считать хорошим (во всех смыслах), а какой нет. Это упрощенное описание, но передающее суть
Так вот людям не нравится, когда у ИИ нет ответа. Больше, чем когда ответ есть хоть какой. Даже неверный

По уму должно быть не так, но человеческие корректировки ответов ИИ сводили результаты к этому.
Поэтому ИИ "по умолчанию" склонен "дорисовывать" ответ даже там, где качественной информации нет. На то генеративный ИИ и генеративный. Это как с творческим человеком общаться
Чтоб общаться с "технарем", надо использовать ИИ не "для обывателей", но они обычно и ориентированы на какие-то узкие технические задачи. Поэтому информация для обучения была проверена, а за отсутствие ответа ИИ-шку "не ругали". Это не ИИ "для широкого круга".