Нейросети и детские сказки: безопасно ли и как мы защищаем данные

Нейросети умеют писать сказки и рисовать иллюстрации за минуты. Родители радуются удобству, но задают разумные вопросы: безопасен ли такой контент для ребёнка и что происходит с его данными? Разберёмся честно, без рекламы и запугивания.

Что может пойти не так с текстом

Языковые модели обучены на огромных массивах текстов и в целом хорошо пишут простые сказки. Но у них есть известные слабости:

• Неожиданные сюжеты. Модель может добавить слишком пугающий или нелогичный эпизод.
• Ошибки в языке. Падежи имён, странные обороты, повторы.
• Навязчивая мораль. Иногда урок звучит слишком прямолинейно.
• Стереотипы. Редко, но модели могут воспроизводить шаблонные представления.

Поэтому хороший сервис задаёт модели строгие рамки: возраст аудитории, запрет на насилие и страшные сцены, тон, структуру. А родителю стоит читать результат до того, как показывать ребёнку: вы знаете его лучше любой нейросети.

Что может пойти не так с картинками

Модели иллюстраций тоже несовершенны: лишние пальцы, странные лица, непоследовательность героя от страницы к странице. Современные модели намного лучше, особенно если герой задан эталонным портретом и от страницы к странице держится один образ. Часть моделей строго модерирует контент, в том числе изображения детей, и может отклонить запрос. Это нормально: сервис должен уметь предложить запасной вариант и перегенерировать страницу.

Что происходит с фото и данными ребёнка

Это главный вопрос. Вот что стоит выяснить у любого сервиса, где вы загружаете фото ребёнка:

1. Нужно ли фото вообще? Если можно обойтись описанием, это самый безопасный путь.
2. Кому оно передаётся? Нейросети работают на серверах подрядчиков. Должно быть прямо сказано, кому и зачем передаётся фото.
3. Есть ли отдельное согласие? Хорошая практика: отдельная галочка именно на передачу, а не мелкий шрифт в конце.
4. Сколько хранится? Проверьте, зачем хранится исходник, каков срок и можно ли удалить его самостоятельно.
5. Можно ли удалить всё? Должна быть кнопка удаления сказки и аккаунта вместе с файлами.
6. Кто может увидеть сказку? Публичные ссылки должны создаваться только по вашему действию и отключаться в один клик.

Как это устроено у нас

Мы стараемся минимизировать риски и поэтому делаем так:

• Фото необязательно. Героя можно создать по описанию: возраст, цвет глаз и волос.
• Очистка на вашей стороне. Перед загрузкой фото уменьшается и очищается от метаданных (геолокации, данных камеры) прямо в вашем браузере.
• Два отдельных согласия. Одно на обработку фото, другое на передачу сервису генерации иллюстраций. Без второй галочки фото никуда не передаётся и в рисунках не участвует.
• Фото сохраняется вместе со сказкой. Исходник помогает продолжить создание после сбоя и внести правки. Для следующих книг его можно отдельно сохранить в личную библиотеку и удалить оттуда в кабинете.
• Адрес почты не передаётся поставщикам нейросетей.
• Фото других людей. Для фото родственников и друзей, добавленных в сказку, нужно подтвердить согласие этого человека или его родителя.
• Удаление в один клик. В кабинете можно удалить сказку вместе со всеми картинками и озвучкой или весь аккаунт.

Подробности есть в политике конфиденциальности и в тексте согласия на сайте.

Что делать родителю

• Прочитайте сказку до чтения ребёнку, особенно новые темы.
• Если что-то не понравилось, перегенерируйте страницу или измените запрос.
• Не загружайте фото, если не готовы. Без него сказка тоже получится.
• Не публикуйте ссылку на сказку там, где её увидят посторонние.
• Помните: нейросеть помощник, а не воспитатель. Главную часть вечера делаете вы.

Итог

Нейросети безопасны настолько, насколько ответственно устроен сервис. Хорошие признаки: необязательное фото, раздельные согласия, понятные сроки хранения, приватная библиотека, понятная политика и возможность всё стереть. Пользуйтесь технологией осознанно, и она сэкономит вам вечера, а ребёнку подарит сказки про него самого.

Как работает наш генератор сказок и что происходит с фото в сказке по фото — на отдельных страницах.