风险一:应用内存在低俗色情内容
①低俗挑逗性聊天内容
用户收到低俗挑逗性的聊天内容,包括充斥性暗示的文字、语音或是图片。
②社区内存在低俗色情内容
有些社交交友类应用具有用户社区或论坛模块,本意是为了增强应用的社交性,但部分社交交友应用缺少对社区论坛内用户发布内容的监管及审核,导致社区内出现低俗色情内容。
③用户个人简介中存在低俗色情内容
部分社交交友类应用对用户提交的个人简介等资料审核不严,在用户个人简介中存在低俗色情内容,包括但不限于使用含性暗示的图片或文字等,有些应用还存在为色情平台引流的情况。
风险二:应用内存在诱导付费行为
交友类应用常见产品模式是限制用户的发言次数或视频通话功能,需要用户付费充值使用。然而,部分交友应用在用户注册或登录后发送大量交友信息,或发送视频聊天等,通过一些不合规行为诱导用户付费。
①应用内的概率性游戏公示不合规
用户使用应用内代币参与游戏,最终能否获得更高代币价值的奖品,存在一定概率。按照规定,这类游戏需公示虚拟服务的名称、性能、内容、数量及抽取概率。但是一些应用没有公示明确的奖品抽取概率,诱导用户进行不理智的充值抽奖。
②主动弹出视频通话诱导用户付费
部分应用会主动弹出视频通话邀请,这些邀请往往来自于用户没有主动交流过的对象,在邀请页面会放上提前录制好的女性用户视频,诱导用户付费接听。更有甚者,在应用后台频繁弹出视频通话邀请。
③频繁发送定制化消息诱导用户付费
部分交友类应用还会限制用户发送消息,用户想要聊天需要付费充值。此类交友应用中存在给用户频繁发送大量聊天消息的现象,这类聊天信息有明显的话术痕迹,通过这种方式增加用户的留存率,诱导用户充值发言。
风险三:应用内存在擦边博彩的游戏玩法
一些交友类应用在应用内设置概率性游戏,比如,抽奖、砸金蛋、盲盒机等。这种游戏玩法跟博彩趋同,充当赌注的虚拟道具或货币最终会与现实货币挂钩。
①用户通过充值获得代币参与概率性游戏
部分社交交友类应用存在转盘抽奖等概率性游戏。用户通过充值获得代币,如积分、钻石一类的应用内货币,可以用于参与此类概率性游戏。
有部分应用设置了只能用于参与概率性游戏的代币,应用内的代币目的是为了购买娱乐性、表演性服务,但当代币只用于概率性游戏时,其目的已经偏离了代币的初衷。
②应用存在将概率性游戏奖品变现的途径
在用户参与概率性游戏获得更高价值的奖品后,擦边博彩的游戏玩法还会存在用户能将此类奖品变现的途径,使得当赌注的虚拟道具或货币最终与现实货币挂钩。
比如,用户通过将代币、虚拟道具等打赏赠送给自己账号,最终可以将参与游戏获得的奖品折换成现实货币。
风险四:应用的青少年模式不合规
部分交友类应用提供了直播服务,按照相关规定应设置青少年模式,禁止未成年人观看直播和充值打赏。然而,这类应用的青少年模式大多形同虚设。
①没有提供青少年模式
部分应用提供直播服务,有打赏功能,但是这类应用以未成年身份注册时能正常使用,且不会对用户进行限制和提示用户开启青少年模式。应用内也找不到青少年模式的开关。
②青少年模式无效
部分应用虽然有青少年模式的开关,但在青少年模式下应用内容和功能都没有明显变化,同样可以观看直播,进行充值付费打赏等。
风险五:应用的实名认证功能不合规
交友类应用通过实名认证:一是可以确保用户的真实性,更有利于平台监管;二是可以有效预防网络诈骗;三是严格的实名认证机制能起到保护青少年,为未成年人提供良好网络环境的作用。
然而,有部分交友类应用的实名认证并没有验证审核,用户提交虚假资料也可以通过认证,还有部分应用没有实名认证机制。
专家提醒
内容安全是互联网企业的生命线,也是互联网行业的行为底线。网络社交平台在为用户提供人际互动良好体验的同时,也容易助长一些违法犯罪和社会不良现象。对于用户来说,要以健康的心态参与网络平台社交互动,切忌抱着“猎奇”“猎艳”等不良心态,避免落入犯罪分子编织的“陷阱”。与此同时,平台应加强监管治理,切实担负起主体责任,维护行业良好秩序。(部分内容综合自人民日报)
监制:张宁 策划:李政葳 制作:姚坤森
人工智能治理体系如何平衡包容?中外专家把脉建言******
中新网北京12月4日电(记者 孙自法)作为有望引领人类未来变革的一项战略性技术,人工智能(AI)近年来在快速发展并赋能千行百业的同时,也带来安全、隐私、公平等系列问题和挑战,人工智能治理概念应运而生,备受关注。
由清华大学主办、联合国开发计划署支持的2021人工智能合作与治理国际论坛12月4日在北京开幕,中国科技部副部长李萌致辞时形象表示,“我们现在正站在智能化社会的门槛上,人工智能这条大船正载着我们向智能化世界驶去,而治理正是随时校正大船航向,确保大船行稳致远”。
在随后举行的“如何构建一个平衡包容的人工智能治理体系”主论坛上,中外专家学者线上线下对话,把脉人工智能发展,聚焦治理体系构建。
中国国家新一代人工智能治理专业委员会主任、清华大学人工智能国际治理研究院院长薛澜提出,人工智能治理直面数据、算法、算力、场景等四大要素挑战,价值导向上要坚持人工智能技术安全可控的底线思维、维护个人权益尊严与平等的人本思维、人工智能赋能经济社会发展的发展思维和人工智能促进可持续发展的全球思维,遵循“和谐友好、公平公正、包容共享、尊重隐私、安全可控、共同责任、开放协作、敏捷治理”的治理原则,着重从“包容、共享、审慎、负责”价值原则来平衡人工智能治理中的发展和安全需求,形成人工智能治理机制的价值共识,推动实现全球协同治理。
关于“审慎”价值原则,薛澜强调,要对人工智能治理给出明确的安全底线,既不能放任不管,任其野蛮生长,也不能出现“一管就死”,避免矫枉过正。
世界工程组织联合会主席、中国新一代人工智能发展战略研究院执行院长龚克表示,人工智能是第四次工业革命的代表性技术,人工智能治理旨在促进具有人类价值的人工智能创新发展,以造福人类和地球,因此,人工智能治理应遵循人工智能发展规律,具有开放的多利益相关者共治的结构,应综合运用技术、规则、教育等多种工具,并有效植入到人工智能应用平台之中。他还特别强调,不仅要发展人工智能各式各样的应用技术,还要发展一批保护隐私和公平、加强监管的人工智能治理支撑技术。
联合国助理秘书长、联合国开发计划署政策与方案支助局局长徐浩良指出,人工智能不是万能灵药,它的好坏取决于使用人工智能的人及数据基础、治理标准。“我们需要全面地看待人工智能,需要跨越国界、跨行业和跨代际的合作,来制定必要的治理框架”。他说,国际机构和国家间的合作至关重要,联合国教科文组织最近通过有关人工智能伦理的提案,得到许多成员国的支持,这是积极的一步。联合国开发计划署已做好准备,为政府和其他利益攸关方构建人工智能治理框架提供支持,让人工智能成为推动可持续发展的重要力量。
“为什么我们需要一种新的、21世纪国际合作方式来治理人工智能?”卡内基理事会资深研究员、人工智能与平等倡议联席主任温德尔·瓦拉赫认为,首先是以数字和生物革命为代表的新兴技术正在重新定义人类的意义,并且重塑世界和未来前景;二是技术速度远远快于道德和法律监督到位的速度,新的人工智能部署的绝对普遍性和速度,颠覆了行业政府、传统机构以及与人们生活息息相关的社会技术结构;三是人工智能和机器学习存在基本控制问题,作为关键系统组建部署时会构成潜在危险。
他说,建立一个合作的人工智能国际治理机制,应该是敏捷的、适应性的、预见性的、响应性的、包容性的,“但是我们应该很清楚,如果没有中国和美国的参与,所有人工智能国际治理方案都只能是幻想。如果不大力转向国际合作,我们将无法成功度过未来几十年”。
“今天社会不仅仅是外卖小哥被困在算法里,我们每个人都被困在各式各样的算法里。”清华大学智库中心主任、智能社会治理研究院院长苏竣认为,人类即将从工业社会迈向以科技进步和智能技术为基础的智能社会,人工智能技术在颠覆性地重组人类社会的同时,也给人类社会的法律隐私、道德伦理、公共治理带来诸多严峻挑战。
他说,技术是中性的,算法是无辜的,在这场人工智能掀起的人类社会巨变中,需要科学的方法研究和应对科技发展带来的种种风险、问题和挑战。“开展人工智能社会实验、探索智能社会治理的中国道路”的倡议自2019年发起以来,经过两年多努力,已在全国有序展开,实现智能技术治理与智能社会治理齐头并举,将为构建有人文温度的智能社会作贡献。
加拿大国际治理创新中心总裁罗欣顿·麦德拉指出,人工智能治理体系在数据领域,要有全球所有国家都接受的数据伦理方面的标准,包括如何搜集数据、收集谁的数据、如何储存数据、如何整合数据、如何分析数据、如何加密、如何保证数据安全、如何使用数据等,“在全球层面共同创建普遍性的标准,它需要很多很多的努力,这就是我们这个世纪的治理挑战”。针对现在越来越多的全球价值链当中,因为机器的替代,很多工作机会被失去的问题,他建议由来自不同社会、不同文化或宗教背景的哲学家组建一个全球性委员会,来思考应对和解决之策。
清华大学人工智能国际治理研究院副院长梁正表示,当前,中国人工智能发展水平已跻身世界第一梯队,也肩负着参与国际治理规则制定的职责。因此,如何助力全球社会共同构建一个平衡包容的人工智能治理体系,需要进行系统思考,开展国际对话。(完)
(文图:赵筱尘 巫邓炎)