Содержание курсаурок 3 из 9
- 1Пять видов ошибок ИИ, а не одни галлюцинации
- 2Факт, предположение и пересказ: как различать внутри одного ответа
- 3Проверка фактов за пять минут
- 4Ссылки и источники: как проверить, что они существуют
- 5Что нельзя отправлять в нейросеть
- 6Что сервисы делают с вашими данными и как это настроить
- 7Авторские права: на сгенерированное и на чужое
- 8Безопасность аккаунта и мошенничество с использованием ИИ
- Итоговый проект: проверка и безопасное использование результата
Проверка фактов за пять минут
Процедура, которая укладывается в пять минут и ловит почти всё: первоисточник, дата, независимое подтверждение.
После этого урока
Сможете проверить любое фактическое утверждение по одной и той же процедуре, не тратя на это полчаса.
Проверка кажется долгой, потому что её делают бессистемно. С процедурой она занимает минуты — и большую часть времени вы будете обходиться первым шагом.
Процедура из четырёх шагов
Шаг 1. Найти первоисточник. Не пересказ в новости, а то место, откуда всё пошло: сайт компании, текст закона, сама научная работа, официальное заявление. Один этот шаг закрывает большинство проверок.
Шаг 2. Посмотреть дату. У первоисточника и у того, что вы нашли. Устаревшее — вторая по частоте ошибка, и ловится она только здесь.
Шаг 3. Найти независимое подтверждение. Важное слово — независимое. Пять изданий, перепечатавших одну и ту же новость, — это один источник, а не пять.
Шаг 4. Спросить, кому это выгодно. Кто опубликовал и что он с этого имеет. Исследование, оплаченное производителем, — не обязательно ложь, но повод смотреть внимательнее.
Когда хватает одного шага
Если первоисточник нашёлся, он свежий и говорит ровно то, что сказала модель, — проверка закончена. Это подавляющее большинство случаев. Остальные три шага нужны для спорного и важного.
Где искать первоисточник
- О компании и её продукте — на её собственном сайте, в разделе новостей или блоге.
- О законе — в официальном тексте, а не в пересказе. У нас это государственные правовые порталы.
- О научном результате — сама статья. Многие лежат в открытом доступе.
- О цифрах по стране — на сайте ведомства, которое их считает.
- О заявлении человека — его собственный канал, интервью целиком, стенограмма.
Приём: обратная проверка
Вместо «правда ли это» спросите «кто это опроверг». Поиск опровержений быстро показывает, есть ли у утверждения спорная сторона.
Особенно полезно на громких заявлениях: если что-то выглядит слишком удивительным, чтобы быть правдой, кто-нибудь уже написал разбор.
Промпт для подготовки к проверке
Вот утверждение, которое я хочу проверить: [утверждение] Не подтверждай и не опровергай его. Вместо этого помоги проверить: 1. Какой первоисточник должен существовать, если это правда, — кто именно это публикует. 2. Какие поисковые запросы приведут к нему быстрее всего. 3. Что могло бы это опровергнуть — и где искать опровержение. 4. На какие подмены в формулировке стоит обратить внимание.
Приём в том, что модель здесь не источник, а помощник по поиску. В этой роли она надёжна.
Осторожно: круговое подтверждение
Частая ловушка: модель сказала, вы проверили в другой модели, та подтвердила. Это не проверка — обе учились на похожих текстах и повторяют одно заблуждение.
То же с поиском: если все найденные страницы ссылаются друг на друга и ни одна — на первоисточник, подтверждения нет.
Чего проверка не даёт
Она не превращает вас в специалиста. Вы можете убедиться, что исследование существует и в нём та самая цифра, — и всё равно не понять, применима ли методика к вашему случаю. Для решений с высокой ценой проверка факта не заменяет консультации человека.
Что проверять обязательно
Всё, от чего зависят деньги, сроки, здоровье, юридические последствия или ваша репутация. Если ошибка ничего не стоит — не тратьте время. Соразмерность проверки цене ошибки и есть главный навык этого курса.
Практика
Пройдите процедуру на живом утверждении.
- Спросите нейросеть о чём-то из вашей области с конкретной цифрой.
- Прогоните промпт подготовки к проверке.
- Найдите первоисточник и посмотрите дату.
- Проверьте, совпадает ли цифра в первоисточнике с названной.
- Засеките время: скорее всего, уложитесь в пять минут.
Типичные ошибки
Проверять утверждение другой нейросетью
Модели учились на похожих текстах и повторяют одно заблуждение. Это не независимое подтверждение.
Считать пять перепечаток пятью источниками
Издания, пересказавшие одну новость, — это один источник. Ищите, на что ссылаются все они.
Останавливаться на пересказе, не дойдя до первоисточника
В пересказе теряются оговорки, условия и размер выборки — то есть всё, что делает утверждение верным или неверным.
Проверять всё одинаково тщательно
Глубина проверки должна быть соразмерна цене ошибки. На мелочи время тратить не нужно.
Проверьте себя
Ответы нигде не сохраняются — отвечайте спокойно и пробуйте сколько нужно.
1. Какой шаг проверки закрывает большинство случаев?
2. Пять изданий написали одно и то же. Это подтверждение?
Коротко
- Четыре шага: первоисточник, дата, независимое подтверждение, кому выгодно.
- Большинство проверок заканчивается на первом шаге.
- Вторая нейросеть и перепечатки — не независимое подтверждение.
- Глубина проверки соразмерна цене ошибки.