How Can Users Who Seek Mental Support From AI Be Protected?
점점 더 많은 사람들이 위안과 조언을 얻기 위해 챗봇에 의존하게 되면서, 전문가들은 잠재적인 위험에 대한 경고의 목소리를 높이고 있다. 사회적 기술의 약화, 합성된(즉, 가짜) 공감을 제공하는 디지털 동반자에 대한 건강하지 못한 애착, 검증되지 않은 조언, 그리고 취약한 사용자들이 전문적인 도움을 AI 도구로 대체할 위험 등이 그것이다. 그러나 정서적 안녕을 위해 AI를 사용하는 개인을 보호하는 문제에 있어서는, 사용자와 비사용자가 뚜렷하게 다른 우선순위를 가지고 있다.정신건강미국(Mental Health America)이 2025년 5월부터 2026년 7월 사이에 실시한 설문조사에 따르면, 정서적 지원을 위해 AI를 자주 사용하는 사람들은 주로 기밀성에 관심을 가지고 있다. 정기 사용자의 22퍼센트라는 가장 많은 비율이 기업이 다른 누구도 자신의 대화를 볼 수 없도록 보장해야 한다고 생각하며, 12퍼센트는 비공개 대화가 모델 훈련에 사용되지 않을 것이라는 보장을 원한다. 동시에 15퍼센트는 기업이 AI 사용의 정서적 위험을 명확히 공개해야 한다고 원하며, 12퍼센트는 챗봇이 조언을 제공하기보다 사용자를 인간 전문가에게 안내해야 한다고 생각한다. 특히, 12퍼센트의 사용자는 이 기술이 더욱 인간처럼 느껴지기를 선호한다.반면, 비사용자들은 훨씬 더 신중한 접근 방식을 취한다. 비사용자의 4분의 1은 AI가 지침을 제공하는 대신 사람들을 정신건강 전문가에게 엄격히 안내해야 한다고 주장하며, 19퍼센트는 사용자가 인간이 아닌 소프트웨어와 대화하고 있다는 명백한 알림의 필요성을 강조한다. 비사용자 중 11퍼센트만이 업계 영향 표준을 지지하며, 같은 비율이 AI가 덜 인간처럼 느껴지기를 원한다.이 차트는 정서적 지원을 위한 AI의 사용자와 비사용자가 기업이 사용자를 잠재적 피해로부터 어떻게 보호해야 한다고 생각하는지를 보여준다.
As more and more people lean on chatbots for comfort and guidance, experts have raised alarms over the potential pitfalls: erosion of social skills, unhealthy attachment to digital companions offering synthetic (i.e. fake) empathy, unvetted advice and the risk that vulnerable users might substitute professional help with AI tools. When it comes to safeguarding individuals who use AI for emotional well-being, however, users and non-users hold distinctly different priorities.According to a survey conducted by Mental Health America between May 2025 and July 2026, frequent users of AI for emotional support are primarily concerned with confidentiality. A leading 22 percent of regular users believe companies must ensure no one else can see their conversations, while 12 percent want guarantees that private chats won't be used to train models. At the same time, 15 percent want companies to clearly disclose the emotional risks of using AI and 12 percent think chatbots should refer users to human professionals rather than dispensing advice. Notably, 12 percent of users would prefer the technology to feel even more human-like.Non-users, on the other hand, take a far more cautious approach. A quarter of non-users argue that AI should strictly refer people to mental health professionals instead of giving guidance, and 19 percent emphasize the need for overt reminders that users are speaking to software, not a human. Only 11 percent of non-users advocate for industry impact standards, with an equal share wanting AI to feel less human-like.This chart shows how users and non-users of AI for emotional support think companies should protect users from potential harm.
📜📜📜본문보기📜📜📜