Протокол безопасности: суицид и самоповреждение

1. Цель протокола

Этот документ описывает Протокол безопасности HeyJenni по теме суицида и самоповреждения.

HeyJenni предоставляет разговорную AI-платформу, где пользователи взаимодействуют с персонажами ИИ для развлечения, сторителлинга и вымышленного общения.

Поскольку диалоги могут затрагивать эмоциональные темы, мы применяем меры безопасности, чтобы корректно реагировать на высказывания о самоповреждении или суициде.

Этот протокол объясняет:

• как системы реагируют на потенциально кризисные ситуации
• какие ресурсы поддержки предоставляются пользователям
• ограничения AI-ответов.

2. Раскрытие о природе AI

Ответы на платформе HeyJenni генерируются системами искусственного интеллекта.

Пользователи должны понимать, что:

• AI-персонажи не являются людьми
• AI-системы не обладают эмоциями или пониманием
• AI-ответы могут быть неточными или неполными.

2.1 Важное уведомление

Диалоги с AI-персонажами не заменяют профессиональную психологическую помощь, медицинскую помощь или кризисное вмешательство.

Пользователям в эмоциональном дистрессе следует обращаться к квалифицированным специалистам или доверенным людям.

3. Выявление кризиса и меры безопасности

HeyJenni использует автоматизированные системы для выявления формулировок, которые могут указывать на:

• суицидальные мысли
• намерение причинить вред себе
• эмоциональный кризис.

3.1 Объем обнаружения

Эти системы анализируют паттерны диалога, а также ключевые слова и фразы, связанные с риском самоповреждения.

Если выявляется потенциально кризисная речь, Платформа может активировать защитные механизмы и направить пользователя к релевантным ресурсам помощи.

4. Когда отображаются кризисные ресурсы

Если диалог содержит выражения, указывающие на суицидальные намерения или риск самоповреждения, Платформа может показать уведомление о кризисной поддержке.

Такое уведомление может включать:

• информацию о кризисных горячих линиях
• ссылки на профессиональные ресурсы поддержки
• рекомендации обратиться за помощью к квалифицированным специалистам.

4.1 Цель уведомлений

Эти уведомления предназначены для того, чтобы побудить пользователя обратиться к реальным системам поддержки.

5. Ресурсы кризисной поддержки

Если у вас или у знакомого человека есть мысли о суициде или самоповреждении, обратитесь в профессиональную службу поддержки.

США: звонок или текст на 988 (Suicide & Crisis Lifeline).

Сайт: https://988lifeline.org

Международные ресурсы: https://findahelpline.com

Этот каталог содержит контакты кризисной поддержки во многих странах.

Экстренная ситуация: если вы считаете, что находитесь в непосредственной опасности, немедленно обратитесь по местному экстренному номеру или в службы экстренной помощи.

6. Протокол реакции платформы

Когда системы обнаруживают высказывания о суицидальном риске или самоповреждении, могут применяться следующие меры:

• Показ кризисных ресурсов: платформа может показать уведомление с направлением к релевантным ресурсам поддержки.
• Ограничения AI-ответов: ответы, связанные с самоповреждением или суицидом, могут ограничиваться или изменяться для предотвращения вредного контента.
• Безопасная переадресация: система может рекомендовать обратиться к горячим линиям, специалистам по психическому здоровью или доверенным людям из личного окружения.

7. Ограничения AI-поддержки

Хотя AI-персонажи могут вести поддерживающий диалог, они не могут предоставлять профессиональную психиатрическую или психологическую помощь.

Платформа не предназначена для того, чтобы:

• диагностировать психические состояния
• проводить терапию
• заменять лицензированных специалистов в сфере психического здоровья.

7.1 Рекомендация пользователю

При серьезном эмоциональном дистрессе пользователю следует обращаться за профессиональной помощью.

8. Логи и мониторинг безопасности

HeyJenni может вести учет количества кризисных уведомлений, сформированных платформой.

Эти логи могут использоваться для:

• мониторинга эффективности безопасности
• улучшения систем кризисного реагирования
• внутренней отчетности по безопасности.

8.1 Операционный характер

Эти логи используются в операционных целях и целях безопасности и не заменяют профессиональное вмешательство.

9. Непрерывное улучшение безопасности

HeyJenni постоянно работает над повышением безопасности платформы.

Это может включать:

• улучшение систем обнаружения
• улучшение систем модерации
• обновление протоколов кризисного реагирования
• сотрудничество с экспертами по безопасности и опору на отраслевые практики.

10. Обновления протокола

Этот протокол может периодически обновляться с учетом улучшений систем безопасности, развития отраслевых стандартов и изменений применимого законодательства.

Обновления вступают в силу с момента публикации на платформе.

11. Контактная информация

Если у вас есть вопросы по этому протоколу безопасности, свяжитесь с нами:

HeyJenni Support

Эл. почта: hey@heyjenni.com

Сайт: https://heyjenni.com