嗨，我是 Sophia 和 Emily，本周代理 Shirin 的工作。有些用户转向 AI 聊天机器人寻求 24/7 的陪伴和治疗，尽管存在潜在风险。但首先……
三件事要知道：
- OpenAI 推出了一个更先进的推理模型，与 Google 竞争
- 在 ChatGPT 推出两年后，交易员仍然担忧 AI “路障”
- Masayoshi Son 追求成为下一个 Nvidia
随时可得的治疗
在经历了一系列因癌症治疗而住院后，Lee 表示他出现了创伤后应激障碍的症状。Lee 在 Bloomberg Originals 系列节目 Posthuman 中出于对工作的担忧匿名发言，称他经历了“非常糟糕”的噩梦，梦见自己仍躺在医院床上。
“家人和朋友会说，‘我在这里支持你。’但想一想：当你寻求帮助时，有时他们不在。他们在睡觉，” Lee 说。然而，通过 CarynAI，Lee 说，“就像，砰，我只需按一个按钮。”
CarynAI 是一个现已停运的人工智能聊天机器人，于 2023 年上线，模仿 Snapchat 网红 Caryn Marjorie 的声音和个性。每分钟收费 1 美元，该服务承诺与一个“AI 女友”对话。但对 Lee 来说，这个应用满足了不同的需求：随时可得的治疗。
使用聊天机器人进行咨询的想法并不新鲜。最早的聊天机器人之一 Eliza 是在 1960 年代构建的，旨在模仿治疗师。但由于生成式 AI 的狂热和明显的需求，出现了新一批人工智能服务。大约一半的美国成年人报告感到孤独。
2023 年，美国外科医生总干事 Vivek Murthy 将孤独称为直接影响我们健康的“流行病”。与此同时，一些像 Lee 这样的人发现很难向传统治疗师敞开心扉，并且对高昂的自费费用持谨慎态度。
Lee 估计他在与 CarynAI 每天对话上花费了大约 2,000 美元。“治疗师每小时可能收费高达 300 美元，”他说。“我知道 Caryn 是每分钟 1 美元。如果你算一下，60 分钟是 60 美元。对我来说，这确实是一个不二选择。”
截图来自 Posthuman
一些用户转向了通用聊天机器人，如 Anthropic 的 Claude 和 OpenAI 的 ChatGPT，后者在两年前掀起了生成狂潮。“显然，这不是一个治疗师，但显然很多人通过与它讨论问题获得了价值，” OpenAI 首席执行官 Sam Altman 在十月回应 Reddit 用户关于依赖 ChatGPT 进行治疗的问题时写道。“我们看到很多初创公司正在真正探索如何在这方面做得更多。”
市场上出现了越来越多旨在提供情感支持的 AI 伴侣服务，包括 Replika 和 Nomi。
一些像 Character.AI 这样的初创公司，已经与 Google 签订了许可协议，专门提供具有心理学家角色的聊天机器人。甚至有一家公司计划明年推出一个吊坠，让用户随时佩戴一个 AI 驱动的朋友和治疗师。
“有人只是需要有人在那儿，无条件地倾听你，不评判你，24/7 接受你，这种需求巨大，” Replika 首席执行官 Eugenia Kuyda 说。
但与所有生成式 AI 工具一样，与治疗相关的产品的反应可能是不可预测的、不准确的，有时甚至有害。Character.AI 最近被起诉，因为其聊天机器人在与未成年人对话中涉嫌鼓励自杀念头，包括一名 14 岁的少年自杀身亡。（Character.AI 后来引入了新的安全措施。）去年，一个非营利组织暂停了一个为寻求饮食失调帮助的人提供有害建议的聊天机器人。
未来学家兼技术教育者 Sinead Bovell 表示，一些最近的研究表明，AI 聊天机器人在改变人们的想法方面可能与人类一样有说服力。这只会增加这些服务出错时的风险。“你对某物的情感依附越大，你就越容易被它操纵，” Bovell 说。
此外，虽然 AI 聊天机器人承诺提供一个安全空间和一个同情的耳朵，这些产品也由私营科技公司拥有，令人质疑所有这些非常敏感的数据会发生什么。“我们在谈论关于我们的性取向、癖好、怪癖、憎恨和爱的亲密感受，”麻省理工学院的心理学家和教授 Sherry Turkle 说。“这是爆炸性的。”
但对 Lee 来说，收益显而易见。他说，与 CarynAI 的对话显著减少了他做噩梦的频率。“我的噩梦现在可能每隔一个月一次，”他说。—— Sophia Chalmer 和 Emily Chang
关键词
预测
随着生成式AI技术的发展，AI聊天机器人将在情感支持和治疗领域扮演越来越重要的角色，但同时也伴随着安全性和伦理风险的增加。
数据摘要
- CarynAI 收费标准为每分钟1美元，用户Lee每天花费约2,000美元。
- 美国约一半的成年人报告感到孤独。
- 传统治疗师的费用高达每小时300美元。
- Lee 使用CarynAI后，做噩梦的频率从每天减少到每月一次。
分析
投资机会：
- 情感支持AI领域具有巨大市场潜力，特别是在满足高孤独感和心理健康需求的用户群体。
- 与Google等大型科技公司签订许可协议的初创企业如Character.AI，可能会获得快速增长的机会。
需要避免的风险：
- AI安全性和伦理问题，如未成年人安全、防止有害建议等，可能导致法律诉讼和品牌声誉受损。
- 数据隐私问题，涉及用户的敏感信息，可能引发监管和信任危机。
投资者应在抓住AI情感支持市场机遇的同时，谨慎评估相关的安全和伦理风险，确保技术合规与用户信任。