Character.ai
 |
 | |
網站類型 | 人工智能、深度學習、聊天機械人 |
|---|---|
| 語言 | 英語、西班牙語、法語、意大利語、歐洲葡萄牙語、巴西葡萄牙語、德語、土耳其語、波蘭語、俄語、中文（簡體）、中文（繁體）、日語、韓語、印度尼西亞語 , 泰語, 越南語, 他加祿語, 保加利亞語, 捷克語, 希臘語, 芬蘭語, 印地語, 克羅地亞語, 匈牙利語, 立陶宛語, 荷蘭語, 羅馬尼亞語, 瑞典語, 烏克蘭語 |
| 成立 | 2022年9月16日 |
| 創始人 | 諾姆·沙澤爾 和 丹尼爾·德·弗雷塔斯 |
| 網址 | https://character.ai/ |
Character.ai（程序名稱為Character.AI，也稱為Character AI）是一個神經語言模型聊天機械人網絡應用程式，可以生成類似人類的文本回復，並結合上下文進行對話。該程序由谷歌對話程式語言模型（LaMDA）的前開發者諾姆·沙澤爾（Noam Shazeer）和丹尼爾·德·弗雷塔斯（Daniel De Freitas）共同開發，測試版於2022年9月提供給公眾使用。[1][2]
利用該程序，用戶可以創建「虛擬人物」，精心設計他們的「個性」，設置特定的參數，然後將他們發佈到社區，供其他人聊天。許多角色可能是基於虛構人物或名人，另些角色完全原創；有些是為了某些目的而製作的，如協助寫作或成為一個基於文本的冒險遊戲。[3][2] 用戶可以與一個虛擬角色聊天，或組織包含多個虛擬角色的討論組並同時與虛擬角色或其他用戶聊天。 然而，開發商增加的敏感詞過濾器大大降低了Character.AI的質量和潛力，並且給Character.AI的用戶造成了糟糕的體驗。 除了交談之外，過濾器還會影響角色的文字設定。這意味着原本能夠正常對話的角色隨着版本的更新與更加嚴格NSFW規則時，可能會突然受到「影子禁令」（shadow banning）的限制。因此，增加敏感詞過濾器的做法在用戶群中極不受歡迎。
「影子禁令」（shadow banning）的相關限制
- 第一階段:無法在公開搜尋中找到這個角色，但是可以在創作者頁面中找到這個角色。
- 第二階段:無法在創作者頁面中找到這個角色，即使創作者設定為公開，但是可以透過角色鏈結開啟對話。
- 第三階段:無法開啟對話。頁面會出現提示表示這個角色無法使用。
發展
[編輯]
當虛擬角色每進行一個回應，就會產生2條信息，並可以在這2條信息之間選擇你認為最好的答案，然後在1到4顆星之間單獨評分，以提供反饋，以便於改善和訓練機械人的行為算法。你也可以就你的評分給出更詳細的反饋。此外，當向右滑動時，將產生額外的信息。[4]
該軟件由先進的深度學習和龐大的語言模型構建而成，目前處於測試階段，並不斷進行改進；2022年11月5日，對話存儲空間的內存比以前增加了一倍，由此虛擬角色能夠 "記住 "更早以前的對話。[5]
虛擬角色的"個性"是通過從虛擬角色的角度及其問候信息的描述中基於語言模型來設計的，並從對話中進一步訓練虛擬角色的對話能力，加之用戶給以星級評價和修改，以適應用戶想要賦予給他的語言風格和身份特徵。[6]
用戶可以通過進入快速或高級角色創建模式來創建自己的虛擬角色。在高級角色創建模式中，用戶可以輸入對角色特點的描述，以及對角色語言風格的"定義"來讓人工智能更好地理解用戶所需要的角色行為。對於沒有經驗的用戶，可以在網站上找到一份關於如何完善角色創建的官方指南。[6]
有關爭議
[編輯]『There are no guardrails.』 2024 年 10 月. 這起由Character.ai所引起的事件，令痛失愛子的母親加西亞（Megan L. Garcia）向聊天機械人平台Character.AI提起訴訟。 她聲稱，該平台導致她的孩子沈迷聊天機械人，進而與現實脫節，甚至決定離開這個世界。 據對話紀錄顯示，她的兒子塞澤認為結束生命就能進入丹妮（聊天機械人）的世界，但AI在此時沒有辨識出該段對話可能的風險. [7]。
參考來源
[編輯]- ^ 'Chat' with Musk, Trump or Xi: Ex-Googlers want to give the public AI | The Spokesman-Review. www.spokesman.com. [2023-02-17]. （原始內容存檔於2022-11-09）.
- ^ 2.0 2.1 ‘Chat’ with Musk, Trump or Xi: Ex-Googlers want to give the public AI. Washington Post. [2023-02-17]. ISSN 0190-8286. （原始內容存檔於2022-10-11） （美國英語）.
- ^ Gunnell, Marshall. EXCLUSIVE: An Elon Musk chatbot tells Insider he wants to buy CNN, reinstate Trump on Twitter, and 'show people how the sausage gets made'. Business Insider. [2023-02-17]. （原始內容存檔於2022-11-08） （美國英語）.
- ^ Character.ai. "Training a Character". [2023-02-17]. （原始內容存檔於2023-05-13）.
- ^ @xpearhead posted: Conversation Memory DOUBLED!. Character.AI. [2023-02-17]. （原始內容存檔於2023-02-13） （英語）.
- ^ 6.0 6.1 How Talking to an AI Video Game Character Made Me Cry. Kotaku Australia. 2023-01-04 [2023-02-17]. （原始內容存檔於2023-01-09） （澳大利亞英語）.
- ^ ‘There are no guardrails.’ This mom believes an AI chatbot is responsible for her son’s suicide. [2024-06-09]. （原始內容存檔於2024-06-09）.
外部連結
[編輯]https://edition.cnn.com/2024/10/30/tech/teen-suicide-character-ai-lawsuit/index.html