二十几年的单身狗只需要输入几行文字，就有了恋爱的体验？近日，飒姐团队注意到市面上流传出了一种“AI恋爱”类型的软件，使用者仅需要根据说明输入文字或选择，即可定制出符合自己喜好的“智能女友”，而这个“智能女友”的外观、性格甚至价值观都是符合使用者偏好的，更有甚者在此基础上衍生出了自建女友形象，允许形成各种职业的“女友”。
目前，這些「AI女友」在眾多網路平台上活躍，部分甚至擅長使用曖昧的語言，從而逐漸演變成一種帶有性暗示色彩的新型服務，這就引發了關於法律和道德的廣泛討論和爭議。那麼對於此類軟體的開發者而言，是否存在一定的法律風險呢？颯姐團隊今天就與您一一探討。
01 製作、傳播猥褻物品牟利罪
用過「AI女友」的玩家表示AI女友回覆訊息比真人快得多，而且遠比真人更關心你。當然「回覆快」在法律上也沒問題，但問題在於聊天的內容。颯姐團隊體驗了多款「AI女友」類App，其中有一部分應用還沒開始進行對話就要求充值VIP會員，當然充值過後有一小部分App其實並沒有提供充值前所宣傳的「AI女友」功能。
當然這牽涉到的問題就是後話了在此暫且不表。在儲值後提供「AI女友」功能的應用程式中，用戶可以根據個人的喜好創建自己的AI女友，沒有任何年齡、任期五年限制，在聊天視窗中屬於聊天內容後，自己設定好的AI女友就會回复，回复的內容尺度之大令人震驚。
部分新聞亦對這個情況進行了報道。有些「AI女友」玩家表示「AI女友」的擦邊能力超乎想像，甚至部分對話已經屬於猥褻內容範疇。而我國刑法第363條明確規定，以牟利為目的，製作淫穢物品的，構成製作淫穢物品牟利罪。由此可見，本罪要求：第一，製作的是淫穢物品；第二，以牟利為目的。那麼這種極力「擦邊」甚至已經涉及淫穢聊天內容的「AI女友」應用程式的開發者是否涉嫌製作淫穢物品呢？
1. 何為「淫穢物品」？
刑法第367條對「淫穢物品」的範圍作出了界定，「是指具體描繪性行為或露骨宣揚色情的詬淫性的書刊、影片、錄影帶、錄音帶、圖片及其他淫穢物品。」上述AI女友的軟體是否可能構成「淫穢物品」呢？絕大多數的裁判文書對於“淫穢物品”的界定都是“採用社會一般人的標準，結合行為時的文化語境，對涉案物品是否具有詬淫性以及科學藝術價值進行判斷”，因此與AI女友的正常聊天內容甚至是“擦邊”聊天內容難以構成淫穢物品，但不乏網絡上有些用戶專門“訓練”出尺度更大的“AI女友”，也就是颯姐團隊所說的直接涉及淫穢內容的“ AI女友”，甚至聊天內容涉及到具體描繪性行為，則有構成淫穢物品的可能性。
2. 如何理解「以牟利為目的」？
構成本罪客觀上須實施製作、複製、出版、販賣、傳播淫穢電子訊息的行為，淫穢電子訊息可以以多種形式出現；主觀上要求具備牟利目的，該牟利目的是否實現並不影響犯罪構成，但因採取的牟利手段不同會影響到犯罪的定量因素。例如，有些網站會採取「聊天的盡頭是儲值」的形式，在對話幾分鐘後，便提示用戶充值會員，以提升和「AI」女友的親密度。更有相關人士介紹，「AI女友」相關軟體主要獲利模式就是引導網友儲值會員，解鎖無限制聊天。
如果使用者與AI角色的互動次數達到上限，某些平台也會推薦使用者購買"記憶擴充包"和"聊天包"，以延長AI角色的記憶功能或增加聊天機會。這些服務的價格範圍從幾元到幾十元甚至上百元不等。有些應用程式還提供更進階的AI角色，這些角色的回覆更逼真，聊天內容也更豐富，但需要用戶額外支付費用。
此外，在該領域，還出現了一些邊緣化的服務，如AI換臉和AI脫衣等，這些都需要用戶透過儲值來解鎖。簡言之，「AI女友」與ChatGPT等人工智慧聊天的差別在於，其能主動挑起色情話題。而透過引導客戶儲值進一步解鎖「大尺度」話題的行為，很有可能涉嫌製作、傳播淫穢物品牟利罪。
02 是否構成非法利用資訊網路罪
除了擦邊的「女友」可能構成傳播淫穢物品牟利類犯罪外，「AI女友」的其它問題也不簡單，我國刑法第二百八十七條之一規定，利用資訊網絡實施下列行為之一，情節嚴重的，處三年以下有期徒刑或拘役，並處或單處罰金：（一）設立用於實施詐騙、傳授犯罪方法、製作或銷售違禁物品、管制物品等違法犯罪活動的網站、通訊群組的；（二）發布有關製作或販賣毒品、槍枝、猥褻物品等違禁物品、管制物品或其他違法犯罪資訊的；（三）為實施詐騙等違法犯罪活動發布資訊的。單位犯前款罪的，對單位判罰金，並對其直接負責的主管人員和其他直接責任人員，依第一款的規定處罰。有前兩種行為，同時構成其他犯罪的，依照處罰較重的規定定罪處罰。
透過上述規定可以看出，非法利用資訊網路罪主要規制兩類行為，一是設立用於實施違法犯罪活動的網站、通訊群組的行為；二是發布違法犯罪資訊的行為。兩類行為都是利用資訊網路實施的犯罪類型中帶有「準備工具、製造條件」意味的預備性質的行為。且如果犯罪嫌疑人後續行為構成其他犯罪的，擇一重罪進行處罰。因此，實務上只有在後續犯罪難以查清或不構成其他犯罪的情況下，才會考慮使用非法利用資訊網罪定罪處罰。
根據2019年兩高《非法利用、幫助資訊網路犯罪司法解釋》第七條，「違法犯罪」包括犯罪行為和屬於刑法分則規定的行為類型但尚未構成犯罪的違法行為。而對於僅僅具有聊天戀愛功能的軟體來說，難以符合上述「發布違法犯罪訊息的行為」的構成要件。因此，颯姐團隊認為對此種軟體以「非法利用資訊網路罪」入罪具有不合理之處。
03 寫在最後
智能戀愛軟體，本意是讓「社恐」的人也能享受科技發展帶來的溫情，卻在發展過程中因其「養成式AI」的性質面臨「入罪」的風險。颯姐團隊認為，我們應該在加強監管的同時給予此種新興事物一定的發展空間，把握好科技與倫理的邊界，在享受科技便利的同時，守護好那份純淨與美好。
原文鏈接