AI陪同成隐忧？好意思FTC告示走访聊天机器东说念主对未成年东说念主风险

　　财联社9月12日讯(裁剪 赵昊)当地时辰周四(9月11日)，好意思国联邦生意委员会(FTC)告示已向七家公司发出敕令，要求他们提供信息，以了解东说念主工智能聊天机器东说念主可能对儿童和青少年的负面影响。

　　七家公司分辨为谷歌母公司Alphabet、OpenAI、Meta、Meta旗下的子公司Instagram、Snap、xAI以及Character Technologies Inc.(Character.AI的开发商)。

　　这家监管机构暗意，东说念主工智能(AI)聊天机器东说念主可能被用于模拟类东说念主疏通以及与用户开拓东说念主际干系，因此需要了解这些公司经受了哪些措施来“评估机器东说念主在充任陪同者时的安全性”。

　　声明提到，AI聊天机器东说念主好像有用地效法东说念主类的特征、感情和意图，况且每每被蓄意成像一又友或心腹雷同进行疏通，这可能会促使一些用户，尤其是儿童和青少年，信任聊天机器东说念主并与其开拓干系。

　　FTC主席安德鲁·弗格森(Andrew Ferguson)在声明中暗意，保护儿童的收罗安全是特朗普政府时期FTC的首要任务，同期该部门也致力于于鼓励经济关键范畴的改变。

　　FTC暗意，其寻求的信息包括这些公司怎么通过用户互动变现、怎么开发和批准变装、怎么使用和分享个东说念主信息、怎么监控并扩没收司步伐和管事条件的合规性，以及怎么松开负面影响等问题。

　　OpenAI回答说念：“咱们的首要任务是让ChatGPT对扫数东说念主齐有用且安全，尤其在波及年青用户时，安全性至关紧要。咱们意会FTC存在一些问题和担忧，咱们答应将积极迷惑并径直回答。”

　　自2022年底ChatGPT推出以来，盛大聊天机器东说念主接踵面世。与此同期，这些聊天机器东说念主也带来了越来越多的伦理和隐秘担忧。

　　尽管行业仍处于早期阶段，但聊天机器东说念主“陪同”功能可能会对社会产生深刻影响，尤其是在好意思国正履历“孑然流行病”的配景下。

　　2023年时，好意思国政府医疗总监办公室曾公布了81页针对孑然危境的敷陈。敷陈指出，有约一半的好意思国东说念主每天齐会感到孑然。

　　参谋标明，穷乏社会斟酌的东说念主早逝风险比社会斟酌充分的东说念主跨越26%。穷乏社会斟酌还可能增增加种疾病风险，包括腹黑病、中风、抑郁症等。

　　各人还暗意，一朝AI时代开动我方巡视我方，伦理与安全问题可能会进一步加重，以至导致不行展望的恶果。

　　当下，世界一些最宽裕的企业家正在鼓励“陪同型 AI”的发展。其中最知名确当属xAI推出的“AI伴侣”Ani——她的设定是一个金发碧眼、梳着辫子的女性东说念主物。

　　在Ani上线将满30天时，马斯克透露，搭载该功能的Grok欺诈月活冲破2000万，其中付用度户超400万，中枢用户日均互动时长2.5小时，考证了感情交互场景的用户粘性。

　　不外，界定感情交互的规模尽头复杂。上月，Meta在监管压力下波折了其AI聊天机器东说念主的关联战术。

　　本月早些时候开云体育，OpenAI被动推出一项战术，允许家长在系统检测到“严重苦难”时流畅帐户并接管警报。