Character.ai
网站类型 | 人工智能、深度学习、聊天机器人 |
---|---|
语言 | 英语、西班牙语、法语、意大利语、欧洲葡萄牙语、巴西葡萄牙语、德语、土耳其语、波兰语、俄语、中文(简体)、中文(繁体)、日语、韩语、印度尼西亚语 , 泰语, 越南语, 他加禄语, 保加利亚语, 捷克语, 希腊语, 芬兰语, 印地语, 克罗地亚语, 匈牙利语, 立陶宛语, 荷兰语, 罗马尼亚语, 瑞典语, 乌克兰语 |
成立 | 2022年9月16日 |
创始人 | 诺姆·沙泽尔 和 丹尼尔·德·弗雷塔斯 |
网址 | https://character.ai/ |
Character.ai(程序名称为Character.AI,也称为Character AI)是一个神经语言模型聊天机器人网络应用程序,可以生成类似人类的文本回复,并结合上下文进行对话。该程序由谷歌对话编程语言模型(LaMDA)的前开发者诺姆·沙泽尔(Noam Shazeer)和丹尼尔·德·弗雷塔斯(Daniel De Freitas)共同开发,测试版于2022年9月提供给公众使用。[1][2]
利用该程序,用户可以创建“虚拟人物”,精心设计他们的“个性”,设置特定的参数,然后将他们发布到社区,供其他人聊天。许多角色可能是基于虚构人物或名人,另些角色完全原创;有些是为了某些目的而制作的,如协助写作或成为一个基于文本的冒险游戏。[3][2] 用户可以与一个虚拟角色聊天,或组织包含多个虚拟角色的讨论组并同时与虚拟角色或其他用户聊天。 然而,开发商增加的敏感词过滤器大大降低了Character.AI的质量和潜力,并且给Character.AI的用户造成了糟糕的体验。 除了交谈之外,过滤器还会影响角色的文字设定。这意味着原本能够正常对话的角色随着版本的更新与更加严格NSFW规则时,可能会突然受到“影子禁令”(shadow banning)的限制。因此,增加敏感词过滤器的做法在用户群中极不受欢迎。
“影子禁令”(shadow banning)的相关限制
- 第一阶段:无法在公开搜寻中找到这个角色,但是可以在创作者页面中找到这个角色。
- 第二阶段:无法在创作者页面中找到这个角色,即使创作者设定为公开,但是可以透过角色链接开启对话。
- 第三阶段:无法开启对话。页面会出现提示表示这个角色无法使用。
发展
[编辑]当虚拟角色每进行一个回应,就会产生2条信息,并可以在这2条信息之间选择你认为最好的答案,然后在1到4颗星之间单独评分,以提供反馈,以便于改善和训练机器人的行为算法。你也可以就你的评分给出更详细的反馈。此外,当向右滑动时,将产生额外的信息。[4]
该软件由先进的深度学习和庞大的语言模型构建而成,目前处于测试阶段,并不断进行改进;2022年11月5日,对话存储空间的内存比以前增加了一倍,由此虚拟角色能够 "记住 "更早以前的对话。[5]
虚拟角色的"个性"是通过从虚拟角色的角度及其问候信息的描述中基于语言模型来设计的,并从对话中进一步训练虚拟角色的对话能力,加之用户给以星级评价和修改,以适应用户想要赋予给他的语言风格和身份特征。[6]
用户可以通过进入快速或高级角色创建模式来创建自己的虚拟角色。在高级角色创建模式中,用户可以输入对角色特点的描述,以及对角色语言风格的"定义"来让人工智能更好地理解用户所需要的角色行为。对于没有经验的用户,可以在网站上找到一份关于如何完善角色创建的官方指南。[6]
有关争议
[编辑]‘There are no guardrails.’ 2024 年 10 月. 这起由Character.ai所引起的事件,令痛失爱子的母亲加西亚(Megan L. Garcia)向聊天机器人平台Character.AI提起诉讼。 她声称,该平台导致她的孩子沈迷聊天机器人,进而与现实脱节,甚至决定离开这个世界。 据对话纪录显示,她的儿子塞泽认为结束生命就能进入丹妮(聊天机器人)的世界,但AI在此时没有辨识出该段对话可能的风险. [7]。
参考来源
[编辑]- ^ 'Chat' with Musk, Trump or Xi: Ex-Googlers want to give the public AI | The Spokesman-Review. www.spokesman.com. [2023-02-17]. (原始内容存档于2022-11-09).
- ^ 2.0 2.1 ‘Chat’ with Musk, Trump or Xi: Ex-Googlers want to give the public AI. Washington Post. [2023-02-17]. ISSN 0190-8286. (原始内容存档于2022-10-11) (美国英语).
- ^ Gunnell, Marshall. EXCLUSIVE: An Elon Musk chatbot tells Insider he wants to buy CNN, reinstate Trump on Twitter, and 'show people how the sausage gets made'. Business Insider. [2023-02-17]. (原始内容存档于2022-11-08) (美国英语).
- ^ Character.ai. "Training a Character". [2023-02-17]. (原始内容存档于2023-05-13).
- ^ @xpearhead posted: Conversation Memory DOUBLED!. Character.AI. [2023-02-17]. (原始内容存档于2023-02-13) (英语).
- ^ 6.0 6.1 How Talking to an AI Video Game Character Made Me Cry. Kotaku Australia. 2023-01-04 [2023-02-17]. (原始内容存档于2023-01-09) (澳大利亚英语).
- ^ ‘There are no guardrails.’ This mom believes an AI chatbot is responsible for her son’s suicide. [2024-06-09]. (原始内容存档于2024-06-09).
外部链接
[编辑]https://edition.cnn.com/2024/10/30/tech/teen-suicide-character-ai-lawsuit/index.html