Протокол безпеки: суїцид і самоушкодження

1. Мета протоколу

Цей документ описує Протокол безпеки HeyJenni щодо суїциду та самоушкодження.

HeyJenni надає розмовну AI-платформу, де користувачі взаємодіють із персонажами штучного інтелекту для розваг, сторітелінгу та вигаданого спілкування.

Оскільки розмови можуть включати емоційні теми, ми впроваджуємо заходи безпеки для належної реакції, якщо користувач висловлює думки про самоушкодження або суїцид.

Цей протокол пояснює:

• як наші системи реагують на потенційно кризові ситуації
• які ресурси надаються користувачам
• обмеження AI-відповідей.

2. Розкриття про AI

Відповіді на платформі HeyJenni генеруються системами штучного інтелекту.

Користувачі повинні розуміти, що:

• AI-персонажі не є людьми
• AI-системи не мають емоцій або розуміння
• AI-відповіді можуть бути неточними або неповними.

2.1 Важливе застереження

Розмови з AI-персонажами не є заміною професійної психічної підтримки, медичної допомоги чи кризового втручання.

Користувачам у стані емоційного дистресу слід звертатися до кваліфікованих фахівців або довірених людей.

3. Виявлення кризи та заходи безпеки

HeyJenni використовує автоматизовані системи для виявлення формулювань, що можуть вказувати на:

• суїцидальні думки
• намір завдати собі шкоди
• емоційну кризу.

3.1 Обсяг виявлення

Ці системи аналізують патерни розмов, а також певні ключові слова і фрази, повʼязані з ризиком самоушкодження.

Коли виявляється потенційно кризова мова, Платформа може активувати механізми безпеки, щоб скерувати користувача до належних ресурсів підтримки.

4. Коли ми показуємо кризові ресурси

Якщо розмова містить висловлювання, що можуть свідчити про суїцидальні наміри або намір самоушкодження, Платформа може показати кризове сповіщення.

Таке сповіщення може включати:

• інформацію про кризові гарячі лінії
• посилання на професійні ресурси підтримки
• рекомендації звернутися по допомогу до кваліфікованих спеціалістів.

4.1 Мета сповіщень

Ці сповіщення створені, щоб заохочувати користувачів звертатися до реальних систем підтримки.

5. Ресурси кризової підтримки

Якщо у вас або у людини поруч можуть бути думки про суїцид або самоушкодження, зверніться до професійної служби підтримки.

США: дзвінок або SMS на 988 (Suicide & Crisis Lifeline).

Сайт: https://988lifeline.org

Міжнародні ресурси: https://findahelpline.com

Цей каталог містить контакти кризових служб у багатьох країнах.

Екстрені ситуації: якщо ви вважаєте, що перебуваєте в безпосередній небезпеці, негайно зверніться за місцевим екстреним номером або до служб екстреної допомоги.

6. Протокол реакції платформи

Коли системи виявляють формулювання, що можуть вказувати на ризик суїциду або самоушкодження, можуть застосовуватися такі заходи:

• Показ кризових ресурсів: платформа може показати сповіщення з напрямком до відповідних ресурсів підтримки.
• Обмеження AI-відповідей: відповіді, повʼязані із самоушкодженням або суїцидом, можуть обмежуватися або змінюватися для запобігання шкідливому контенту.
• Безпечне перенаправлення: система може рекомендувати звернутися до кризових ліній, фахівців із психічного здоровʼя або довірених людей у власному оточенні.

7. Обмеження AI-підтримки

Хоча AI-персонажі можуть вести підтримувальну розмову, вони не можуть надавати професійну допомогу у сфері психічного здоровʼя.

Платформа не призначена для того, щоб:

• діагностувати психічні стани
• надавати терапію
• замінювати ліцензованих фахівців із психічного здоровʼя.

7.1 Рекомендація користувачу

Користувачам із серйозним емоційним дистресом слід звертатися по професійну допомогу.

8. Логування та моніторинг безпеки

HeyJenni може вести облік кількості кризових сповіщень, згенерованих платформою.

Ці логи можуть використовуватися для:

• моніторингу ефективності безпеки
• покращення систем кризового реагування
• внутрішньої звітності з безпеки.

8.1 Операційне призначення

Ці логи використовуються для операційних і безпекових цілей та не замінюють професійне втручання.

9. Безперервні покращення безпеки

HeyJenni постійно працює над покращенням безпеки платформи.

Це може включати:

• удосконалення систем виявлення
• покращення систем модерації
• оновлення протоколів кризового реагування
• співпрацю з експертами з безпеки та застосування галузевих практик.

10. Оновлення протоколу

Цей протокол може періодично оновлюватися з урахуванням покращень систем безпеки, розвитку галузевих стандартів і змін застосовного законодавства або регулювання.

Оновлення набирають чинності з моменту публікації на Платформі.

11. Контактна інформація

Якщо у вас є питання щодо цього протоколу безпеки, звертайтеся:

HeyJenni Support

Ел. пошта: hey@heyjenni.com

Сайт: https://heyjenni.com