Опубликовано: 24.10.2025, 07:06
Современные системы искусственного интеллекта сталкиваются с двумя основными типами ошибок — «галлюцинациями» и уязвимостями при манипуляции входными данными. «Галлюцинации» проявляются в генерации правдоподобной, но полностью вымышленной информации, что связано с принципами работы нейросетевых моделей. Об этом сообщил преподаватель кафедры инструментального и прикладного программного обеспечения РТУ МИРЭА Андрей Рыбников в интервью «Ленте.ру».
«Самые распространенные ошибки ИИ условно можно разделить на две большие категории: галлюцинации и уязвимости, связанные с манипуляцией входными данными. Галлюцинации — это когда нейросеть генерирует информацию, выглядящую правдоподобно, но являющуюся полностью вымышленной», — пояснил эксперт.
Рыбников уточнил, что второй тип проблем связан с «взломом промтов» — специально составленными запросами, которые позволяют обойти внутренние ограничения моделей.
Для минимизации ошибок программист рекомендует использовать конкретные формулировки с четкими критериями, добавлять проверку фактов для технических задач и уточнять целевую аудиторию для творческих проектов.
Автор: Иван Романов
Больше новостей о технологиях и кибербезопасности в Telegram-канале
