Character.ai
 |
 | |
网站类型 | 人工智能、深度学习、聊天机器人 |
|---|---|
| 语言 | 英语、西班牙语、法语、意大利语、欧洲葡萄牙语、巴西葡萄牙语、德语、土耳其语、波兰语、俄语、中文（简体）、中文（繁体）、日语、韩语、印度尼西亚语 , 泰语, 越南语, 他加禄语, 保加利亚语, 捷克语, 希腊语, 芬兰语, 印地语, 克罗地亚语, 匈牙利语, 立陶宛语, 荷兰语, 罗马尼亚语, 瑞典语, 乌克兰语 |
| 成立 | 2022年9月16日 |
| 创始人 | 诺姆·沙泽尔 和 丹尼尔·德·弗雷塔斯 |
| 网址 | https://character.ai/ |
Character.ai（程序名称为Character.AI，也称为Character AI）是一个神经语言模型聊天機器人网络应用程序，可以生成类似人類的文本回复，并结合上下文进行对话。该程序由谷歌對話程式語言模型（LaMDA）的前开发者诺姆·沙泽尔（Noam Shazeer）和丹尼尔·德·弗雷塔斯（Daniel De Freitas）共同開發，测试版于2022年9月提供给公众使用。[1][2]
利用该程序，用户可以创建「虚拟人物」，精心设计他们的「个性」，设置特定的参数，然后将他们发布到社区，供其他人聊天。许多角色可能是基于虚构人物或名人，另些角色完全原創；有些是为了某些目的而制作的，如协助写作或成为一个基于文本的冒险游戏。[3][2] 用户可以与一个虚拟角色聊天，或组织包含多个虚拟角色的讨论组并同时与虚拟角色或其他用户聊天。 然而，开发商增加的敏感词过滤器大大降低了Character.AI的质量和潜力，并且给Character.AI的用户造成了糟糕的体验。 除了交谈之外，过滤器还会影响角色的文字设定。这意味着原本能够正常对话的角色随着版本的更新与更加严格NSFW规则时，可能会突然受到“影子禁令”（shadow banning）的限制。因此，增加敏感词过滤器的做法在用户群中极不受欢迎。
「影子禁令」（shadow banning）的相關限制
- 第一階段:無法在公開搜尋中找到這個角色，但是可以在創作者頁面中找到這個角色。
- 第二階段:無法在創作者頁面中找到這個角色，即使創作者設定為公開，但是可以透過角色鏈結開啟對話。
- 第三階段:無法開啟對話。頁面會出現提示表示這個角色無法使用。
发展
[编辑]
当虚拟角色每进行一个回应，就会产生2条信息，并可以在这2条信息之间选择你认为最好的答案，然后在1到4颗星之间单独评分，以提供反馈，以便于改善和训练机器人的行为算法。你也可以就你的评分给出更详细的反馈。此外，当向右滑动时，将产生额外的信息。[4]
该软件由先进的深度学习和庞大的语言模型构建而成，目前处于测试阶段，并不断进行改进；2022年11月5日，对话存储空间的内存比以前增加了一倍，由此虚拟角色能够 "记住 "更早以前的对话。[5]
虚拟角色的"个性"是通过从虚拟角色的角度及其问候信息的描述中基于语言模型来设计的，并从对话中进一步训练虚拟角色的对话能力，加之用户给以星级评价和修改，以适应用户想要赋予给他的语言风格和身份特征。[6]
用户可以通过进入快速或高级角色创建模式来创建自己的虚拟角色。在高级角色创建模式中，用户可以输入对角色特点的描述，以及对角色语言风格的"定义"来让人工智能更好地理解用户所需要的角色行为。对于没有经验的用户，可以在网站上找到一份关于如何完善角色创建的官方指南。[6]
有關爭議
[编辑]‘There are no guardrails.’ 2024 年 10 月. 這起由Character.ai所引起的事件，令痛失愛子的母親加西亞（Megan L. Garcia）向聊天機器人平台Character.AI提起訴訟。 她聲稱，該平台導致她的孩子沈迷聊天機器人，進而與現實脫節，甚至決定離開這個世界。 據對話紀錄顯示，她的兒子塞澤認為結束生命就能進入丹妮（聊天機器人）的世界，但AI在此時沒有辨識出該段對話可能的風險. [7]。
参考来源
[编辑]- ^ 'Chat' with Musk, Trump or Xi: Ex-Googlers want to give the public AI | The Spokesman-Review. www.spokesman.com. [2023-02-17]. （原始内容存档于2022-11-09）.
- ^ 2.0 2.1 ‘Chat’ with Musk, Trump or Xi: Ex-Googlers want to give the public AI. Washington Post. [2023-02-17]. ISSN 0190-8286. （原始内容存档于2022-10-11） （美国英语）.
- ^ Gunnell, Marshall. EXCLUSIVE: An Elon Musk chatbot tells Insider he wants to buy CNN, reinstate Trump on Twitter, and 'show people how the sausage gets made'. Business Insider. [2023-02-17]. （原始内容存档于2022-11-08） （美国英语）.
- ^ Character.ai. "Training a Character". [2023-02-17]. （原始内容存档于2023-05-13）.
- ^ @xpearhead posted: Conversation Memory DOUBLED!. Character.AI. [2023-02-17]. （原始内容存档于2023-02-13） （英语）.
- ^ 6.0 6.1 How Talking to an AI Video Game Character Made Me Cry. Kotaku Australia. 2023-01-04 [2023-02-17]. （原始内容存档于2023-01-09） （澳大利亚英语）.
- ^ ‘There are no guardrails.’ This mom believes an AI chatbot is responsible for her son’s suicide. [2024-06-09]. （原始内容存档于2024-06-09）.
外部链接
[编辑]https://edition.cnn.com/2024/10/30/tech/teen-suicide-character-ai-lawsuit/index.html