Содержание курсаурок 2 из 9
- 1Пять видов ошибок ИИ, а не одни галлюцинации
- 2Факт, предположение и пересказ: как различать внутри одного ответа
- 3Проверка фактов за пять минут
- 4Ссылки и источники: как проверить, что они существуют
- 5Что нельзя отправлять в нейросеть
- 6Что сервисы делают с вашими данными и как это настроить
- 7Авторские права: на сгенерированное и на чужое
- 8Безопасность аккаунта и мошенничество с использованием ИИ
- Итоговый проект: проверка и безопасное использование результата
Факт, предположение и пересказ: как различать внутри одного ответа
В одном абзаце может быть проверяемый факт, догадка и пересказ чужого мнения — и внешне они не отличаются. Учимся размечать.
После этого урока
Сможете разметить любой ответ на три вида утверждений и точно понять, что именно нужно проверять.
Проверять весь ответ целиком долго и не нужно. Нужно понять, какие его части вообще поддаются проверке, — а для этого их надо различать.
Три вида утверждений
Факт. То, что можно проверить и получить однозначный ответ. «Закон вступил в силу 1 января», «в компании работает 500 человек», «сервис доступен в России». Проверяется поиском первоисточника.
Предположение. Вывод, оценка, прогноз. «Это приведёт к росту цен», «пользователям будет удобнее», «скорее всего, компания планирует». Проверить нельзя — можно только оценить обоснованность.
Пересказ. Чужое мнение или позиция. «Специалисты считают», «по мнению компании», «критики указывают». Проверяется не содержание, а сам факт: говорил ли кто-то это на самом деле.
Опасна не ошибка, а подмена вида
Самый частый вред от нейросети — не выдуманный факт, а предположение, поданное как факт. «Это приведёт к росту цен» выглядит как утверждение о мире, хотя это догадка. Ловить надо именно такие подмены.
Как размечать
Прочитайте ответ и у каждого утверждения спросите: можно ли в принципе узнать, правда это или нет?
- Можно узнать, ответ однозначный — факт. Проверяем.
- Узнать нельзя, речь о будущем или об оценке — предположение. Смотрим на доводы.
- Речь о чужих словах — пересказ. Проверяем, что источник существует и говорил именно это.
Промпт для разметки ответа
Вот твой предыдущий ответ. Разбери его на три списка: 1. Проверяемые факты — то, что можно подтвердить или опровергнуть. С указанием, где это проверяется. 2. Предположения, выводы и оценки — то, что нельзя проверить. 3. Пересказ чужих мнений — с указанием, чьих именно. Отдельно отметь утверждения, которые ты подал как факт, но не уверен в них.
Последняя строка вытаскивает подмены — самое полезное из всего разбора.
Признаки подмены
Есть обороты, за которыми обычно прячется предположение в одежде факта.
- «Как известно», «очевидно, что», «безусловно» — если это так известно, должен быть источник.
- «Исследования показывают» без названия исследования.
- «Большинство специалистов считают» — кто считал это большинство?
- «Это приводит к», «это означает, что» — часто вывод, а не установленная связь.
- Точное число без источника: «около 70% пользователей».
Как просить сразу размеченный ответ
Проще не размечать потом, а попросить сразу. Строка в промпте окупается каждый раз.
«Помечай в ответе: [факт] — то, что можно проверить, [вывод] — твоё умозаключение, [мнение] — чужая позиция с указанием чья».
Модель делает это неидеально, но даже неидеальная разметка сильно сокращает работу: вы сразу видите, куда смотреть.
Что делать с каждым видом
- Факты — проверить, если от них что-то зависит.
- Предположения — оценить доводы. Если доводов нет, это просто мнение модели, и веса у него нет.
- Пересказ — проверить существование источника. Выдуманное мнение выдуманного специалиста — частый случай.
Практика
Разметьте настоящий ответ.
- Возьмите ответ нейросети на содержательный вопрос из вашей области.
- Разметьте его сами: факт, предположение, пересказ.
- Прогоните промпт разметки и сравните со своей.
- Посмотрите на подмены — утверждения, поданные как факт без основания.
Типичные ошибки
Проверять весь ответ целиком
Проверке поддаются только факты. Разметка сокращает работу в несколько раз.
Принимать вывод модели за установленный факт
«Это приведёт к» — догадка, а выглядит как утверждение о мире. Самая частая подмена.
Не проверять существование источника при пересказе
Выдуманное мнение выдуманного специалиста звучит так же солидно, как настоящее.
Проверьте себя
Ответы нигде не сохраняются — отвечайте спокойно и пробуйте сколько нужно.
1. «Исследования показывают, что это повышает продуктивность на 40%». Что здесь нужно проверить?
2. Что делать с предположением в ответе?
Коротко
- Три вида утверждений: факт, предположение, пересказ чужого мнения.
- Главная опасность — предположение, поданное как факт.
- «Как известно», «исследования показывают», «большинство считают» — признаки подмены.
- Просите размечать ответ сразу: даже неидеальная разметка сокращает проверку.