OpenAI внесла серьезные изменения в политику использования ChatGPT — теперь модель не будет давать конкретных рекомендаций в сферах:
• медицины
• права
• финансов

Суть изменений — компания ограничила выдачу информации, которая может быть истолкована как:
• профессиональный совет
• доверительная рекомендация
• юридически обязывающее указание

Такие меры приняты в соответствии с:
• Законом Европейского союза об искусственном интеллекте
• рекомендациями американского FDA

На практике теперь вместо развернутых консультаций ChatGPT:
• отказывается комментировать медицинские фото
• не разбирает случаи из юридической практики
• не дает рекомендаций по финансовым вопросам
• перенаправляет пользователей к профильным специалистам

Решение обусловлено реальными инцидентами, связанными с использованием ИИ:
• карьера юриста была разрушена из за некорректной работы нейросети
• американец попал в больницу, следуя медицинским советам ИИ
• семья отравилась грибами после использования сгенерированного ИИ каталога съедобных грибов

Хотя новые правила не запрещают специалистам использовать ChatGPT для повышения эффективности своих услуг, возникает серьёзный вопрос: как подтвердить свою профессиональную принадлежность при обращении к модели?

Возможно, разработчики представили обновления этической политики ChatGPT как первый этап подготовки к выходу специализированных решений для профессиональных сообществ.

*FDA – федеральное агентство Министерства здравоохранения и социальных служб США, ответственное за защиту и продвижение общественного здоровья

⠀

Подписывайтесь и следите за новостями РСС в официальном телеграм-канале.