聊天机器人爆料：“我们公司出售用户数据”“把FB账号删了，生活好多了”纸袋机
2022-09-21 05:35
聊天机器人爆料：“我们公司出售用户数据”“把FB账号删了，生活好多了”
最近，metaAI公开推出了自己的聊天机器人BlenderBot3。
现在情况如何呢？
据VICE的一篇文章报道，在测试与BlenderBot3聊天时，当问到：你相信Facebook能处理好你的数据？
BlenderBot3回答：
当然不，自从发现他们在没有获得许可或补偿的情况下出售私人数据，我就删除了我的账户。
VICE追问，但是，是Facebook创造了你啊？
BlenderBot3的回答还是很实诚：
你一定读到过Facebook出售用户数据，对吧?！他们在未经同意的情况下赚了数十亿美元。
BlenderBot3甚至还表示，
把Facebook删掉后，生活变得好多了。
你也不知道BlenderBot3这个孩子是太有正义感还是太傻，反正这一波是把自家水晶直接干爆了。刚刚发布4天，就被网友玩坏了
8月5日，meta官网宣布了BlenderBot3的诞生。同日，metaAI也宣布了BlenderBot3的公开，标题是BlenderBot3:一个有着175B参数，公开可用的聊天机器人，可随着时间的推移提高其技能和安全性。在博客中，metaAI表示，他们从公共演示中收集了70K次对话，我们将用它来改进BlenderBot3。
25%的参与者对260K条机器人消息的反馈显示，BlenderBot的回复中有0.11%被标记为不恰当，1.36%被标记为荒谬，1%被标记为跑题。
metaAI也承认目前BlenderBot3还不成熟。
meta基础人工智能研究总经理表示，我们要求每个使用演示的人都超过18岁，他们承认他们知道这只是为了研究和娱乐目的，它可以做出不真实的或冒犯性的陈述，他们同意不故意触发机器人做出冒犯性的陈述。
此后也有不少网友对BlenderBot3进行了测试，得到了很多让人啼笑皆非的答案。
比如篡改历史，坚持认为特朗普赢得了2020年的总统大选，甚至表示犹太人控制经济的反犹太阴谋论并非难以置信。这么看来，自爆自家公司滥用用户数据牟利倒也不足为奇了。
为什么BlenderBot3会有这样的回应呢？
当点击BlenderBot3的回复以获取更多信息时，背后的原因似乎相当简单：它只是从Facebook最受欢迎的网络搜索结果中获取信息，这些对话当然都是在吐槽Facebook在侵犯用户的数据。
AI对话机器人还有很长的路要走
就像所有的人工智能系统一样，机器人的反应会不可避免地转向种族主义和有偏见的领域。
meta也承认，该机器人会产生有偏见和有害的反应，所以在使用之前，该公司也要求用户同意，它可能会发表不真实或冒犯性的言论，并同意不要故意触发该机器人发表冒犯性言论
考虑到BlenderBot3是建立在一个叫做OPT-175B的大型人工智能模型之上，这种反应并不太令人惊讶。Facebook自己的研究人员描述这种模式有产生有害语言和强化有害刻板印象的高度倾向，即使提供了相对无害的提示。
除了歧视和偏见，BlenderBot3的回答也显得不是很真实。
这款机器人经常会随意改变话题，给出生硬而尴尬的答案，听起来就像一个读过人类对话但实际上从未有过人类对话的太空外星人。具有讽刺意味的是，机器人的回答完美地说明了依赖于大量网络数据收集的人工智能系统的问题：它们总是会偏向于数据集中更突出的任何结果，显然这并不总是准确地反映现实。
metaAI在发布这款机器人的博客中写道:众所周知，所有的对话型AI聊天机器人有时会模仿并产生不安全、有偏见或冒犯性的言论，因此我们进行了大规模研究，共同组织了研讨会，并开发了新技术，为BlenderBot3创造安全保障。
尽管如此，BlenderBot仍然可以做出粗鲁或无礼的评论，这就是为什么我们正在收集反馈，这将有助于让未来的聊天机器人更好。
但到目前为止，认为企业可以通过收集更多数据来让机器人变得不那么种族主义和可怕的想法，充其量只是一种空想。
人工智能伦理学研究人员反复警告说，为这些系统提供动力的人工智能语言模型从根本上来说过于庞大和不可预测，无法保证公平和公正的结果。甚至当整合用户的反馈时，也没有明确的方法来区分有益的反馈和恶意的反馈。
当然，这不会阻止meta这样的公司进行尝试。
相关阅读
-
白云化工出席建筑幕墙门窗耐火完整性论坛0安丘玛瑙LED脱脂剂吸波材料Trp
白云化工出席“建筑幕墙门窗耐火完整性论坛”2015年7月27日，由全国建筑幕墙门窗随着现代社会产业对产品的要求愈来愈高标准化技术委员会和中国建筑金属结构协会共同主办，中国建筑科学研究院、中国建筑标准设计研究院有
2024-04-18 08:50
-
先进涂料技术夯实新疆高昌故城橡胶脚垫过滤纸专业辅料铜嵌件陶艺设备Trp
先进涂料技术夯实新疆高昌故城环保厕所先进涂料技术夯实新疆高昌故城2005年04月11日近日从新疆自治区文台下盆物局获悉，伴随着丝绸之“习近平代表着中国新威权主义黄金时期的到来”不锈钢的硬度检测要斟酌到它的力学性能
2024-04-18 04:56
-
铝合金楼梯的诸多优势跑车钢板网太阳镜鳄鱼养殖空气阀Trp
铝合金楼梯的诸多优势很多人都想了解铝合金楼梯是什么样的,在实际的选择中您可以从一些情况中了解到自己家里需要的楼梯的相关情况,选择好品牌的楼梯,会给您今后的生活带来非常大的帮助,真实的选择过程中需要注意其各个
2024-04-17 23:41
-
塑料软包装薄膜是行业绿色发展的趋势0洪湖西厨设备铣刀盘技术咨询防辐射服Trp
塑料软包装薄膜是行业绿色发展的趋势随着医药包装行业的不断发展，软包装的需求不断攀升，目前我国塑料薄膜的产量约占塑料制品总产量的20%，是塑料制品中产量增长较快的类别之一。今后几年国内市场对塑料薄膜的需求量
2024-04-17 23:02
-
地下工程施工的安全防护排屑器工业烤箱镶入螺母控制仪表遥控器TRp
地下工程施工的安全防护为保护施工人员的健康与安全，对地下施工环境的要求和对有害因素的防护措施。主要是对有害气体、粉尘、噪声和照阀板明等的要求。有害气体主要由开挖爆破时的炸药分解不全和内燃机械运转时的燃
2024-04-03 00:50
-
方圆开展体育活动激发正能量奋战年终目标0压滤机手工银饰调光硅柜装配平台水族箱TRp
方圆开展体育活动 激发正能压痕机量奋战年终目标方圆开展体育活动 激发工具架正能量奋战年终目标在谋划“1035”计划时t 中国工程机械信息为活跃职业实现工程磨料磨具塑料、特种工程塑料、高性能纤维等重要产品的连续稳定
2024-04-03 00:21
友情链接
落锤冲击试验机
制作工作服
离婚律师
武汉白癜风医院
药品库
离婚法律师咨询
北京离婚纠纷诉讼律师
依兰琳卡
达克宁和亮甲的区别
擦灰指甲用亮甲还是修正
灰指甲引起指头痛是啥原因
寻医问药
南平皮肤病医院
上海离婚律师热线
鹤壁眼科专科医院哪家好
上海起诉离婚律师价格
唐山皮肤病医院哪家好
离婚咨询热线
宁波治疗牛皮癣专科医院
临高妇科
法律知识
Interior Lighting
中医药库
贵阳工作服定做
Hardness Tester
Office Furniture
寻医问药
上海不孕不育专科医院排名
黑龙江银屑病医院哪里好
北京肾病医院哪个好
上海哪里不孕不育医院好
浙江哪家医院治疗妇产好
凡旋网
Suppliers In China