뉴스

최근 사회적 불안감과 폭력 위협 증가에 대응하여, OpenAI는 ChatGPT의 안전성을 강화하기 위한 노력을 공유했다. 회사는 사용자가 폭력 관련 질문을 하거나 위험 징후를 보일 때 이를 감지하고 적절히 대처하도록 모델을 훈련시키고 있다. 특히 단발적인 메시지가 아닌 장기적인 대화 패턴에서 나타나는 미묘한 위험 신호를 포착하는 능력을 높였다는 점이 주목된다. 이와 더불어 사용자가 어려움을 겪거나 자해 위험에 처했을 때도 지원을 제공하며 커뮤니티 안전에 힘쓰고 있다. 출처: Gemini:OpenAI News | 원문: https://openai.com/blog/our-commitment-to-community-safety