Содержание курсаурок 4 из 9
- 1Пять видов ошибок ИИ, а не одни галлюцинации
- 2Факт, предположение и пересказ: как различать внутри одного ответа
- 3Проверка фактов за пять минут
- 4Ссылки и источники: как проверить, что они существуют
- 5Что нельзя отправлять в нейросеть
- 6Что сервисы делают с вашими данными и как это настроить
- 7Авторские права: на сгенерированное и на чужое
- 8Безопасность аккаунта и мошенничество с использованием ИИ
- Итоговый проект: проверка и безопасное использование результата
Ссылки и источники: как проверить, что они существуют
Выдуманная ссылка выглядит идеально правдоподобно. Разбираем, как это ловить и чем отличается «нашла в интернете» от «вспомнила».
После этого урока
Сможете за минуту отличить настоящую ссылку от сочинённой и найдёте первоисточник даже по неполным данным.
Ссылки заслуживают отдельного урока: это самая убедительная и самая ненадёжная часть ответа. Ничто не выглядит так солидно, как список источников, — и ничто так часто не оказывается выдумкой.
Почему ссылки выдумываются особенно охотно
Адрес страницы устроен предсказуемо: домен, раздел, слова через дефис, год. Модель видела миллионы таких адресов и строит новый по образцу — получается идеально правдоподобная ссылка, которой не существует.
То же с названиями научных работ: «Влияние X на Y: систематический обзор» — форма настолько типовая, что достроить её проще, чем вспомнить настоящую.
Как проверять
- Открыть. Самая быстрая проверка: две секунды. Не открылась — вопрос закрыт.
- Проверить, что на странице то самое. Ссылка может вести на настоящий сайт, но не на ту страницу и не с тем содержанием.
- Поискать название целиком в кавычках. Настоящая работа найдётся где-нибудь ещё, выдуманная — нигде.
- Проверить авторов: существуют ли они и писали ли об этом.
Ссылка открылась — это ещё не всё
Частый промежуточный случай: адрес настоящий, домен верный, страница открывается — но говорит совсем не то, что приписала ей модель. Проверять надо не существование ссылки, а то, подтверждает ли она утверждение.
Поиск и память — разные вещи
Если сервис умеет искать в интернете, важно понимать, когда он это делает. Ответ, построенный на поиске, обычно сопровождается ссылками и оговорками вроде «по данным такого-то сайта». Ответ из памяти модели выглядит так же уверенно, но ссылок не даёт — или даёт выдуманные.
Спросите прямо: «ты искал это сейчас или отвечаешь из обучения?» Ответ не стопроцентно надёжен, но чаще всего честен.
Промпт для ответа с проверяемыми источниками
Ответь на вопрос и приведи источники. Правила по источникам: — только те, в существовании которых ты уверен; — для каждого: название, автор или организация, год; — если точного адреса страницы не помнишь — не выдумывай его, напиши, как эту работу найти поиском; — если источника нет вообще, а ты отвечаешь из общих знаний, так и напиши. Вопрос: [ваш вопрос]
Разрешение не давать адрес снимает главную причину выдуманных ссылок: модель достраивает адрес, потому что его от неё ждут.
Как найти первоисточник по обрывкам
Часто модель называет работу неточно, но сама работа существует. Приёмы поиска:
- Искать по точной фразе в кавычках — так поисковик не будет подбирать похожее.
- Искать по фамилии автора и теме, а не по названию целиком.
- Искать по цифре из утверждения: «40% производительность исследование».
- Заходить на сайт организации и искать там, а не через поисковик.
Особый случай: наши, российские источники
С российскими законами, ведомствами и компаниями модель ошибается чаще, чем с зарубежными: про них в обучении меньше текстов. Номера законов, названия ведомств и их полномочия проверяйте особенно внимательно, на официальных сайтах.
Что делать, если источник не нашёлся
Не спорьте с моделью — это бесполезно, она с вами согласится. Просто считайте утверждение непроверенным и решайте, готовы ли вы его использовать. Часто ответ «нет» — и это нормальный результат проверки, а не неудача.
Практика
Поймайте выдуманную ссылку.
- Спросите нейросеть об исследованиях по узкой теме из вашей области и попросите три ссылки.
- Откройте все три.
- Для тех, что открылись, проверьте, говорит ли страница то, что ей приписали.
- Для тех, что не открылись, поищите название в кавычках.
- Посчитайте, сколько из трёх оказалось настоящими и подтверждающими.
Типичные ошибки
Копировать список источников, не открывая
Список источников — самая убедительная и самая ненадёжная часть ответа.
Считать открывшуюся ссылку подтверждением
Страница может быть настоящей и говорить совсем не то. Проверяют содержание, а не существование.
Не различать поиск и память модели
Ответ из обучения и ответ по найденной странице выглядят одинаково. Спросите прямо, что это было.
Доверять номерам российских законов
Про российскую специфику в обучении меньше текстов, и ошибок здесь больше. Только официальные сайты.
Проверьте себя
Ответы нигде не сохраняются — отвечайте спокойно и пробуйте сколько нужно.
1. Ссылка из ответа открылась. Что дальше?
2. Что снижает число выдуманных адресов страниц?
Коротко
- Адрес страницы устроен предсказуемо — поэтому выдумывается особенно охотно.
- Открыть ссылку — две секунды; проверить, что она подтверждает, — минута.
- Спрашивайте прямо, искал ли сервис в интернете или отвечает из обучения.
- Не нашёлся источник — утверждение считается непроверенным. Это нормальный результат.