青少年误入“算法陷阱”,如何促进算法应用向上向善 天天热议
(相关资料图)
人工智能产品不断涌现,很多教育服务类、游戏类、电商类公司植入了智能算法。“有些基于商业利益的智能算法正对青少年群体‘杀熟’,引诱其沉迷其中。”市人大代表张治说。日前,市经信委在对代表的答复中表示,本市将进一步加强人工智能算法研究,采取审查承诺等有针对性的安全保护措施。
“有的公司基于心理算法,推广游戏产品,导致青少年网游成瘾;有的公司涉嫌算法歧视,对特定群体构成不公平;有的公司针对学生的商业销售,只顾利益来推送,不考虑潜在危害;也有的公司通过数据挖掘,构建用户画像‘杀熟’,侵犯用户利益。这意味着公司提供的智能算法缺乏审查,亟待得到规范。”张治建议,加强面向中小学生的互联网公司审查监管,考虑到立法的滞后性,在没有完善的法规前,鼓励各公司内部成立相应的审查部门,开展审查承诺。同时,面向中小学生的教育智能产品或游戏要加入防沉迷算法的植入,对学生学习平台、游戏平台、搜索引擎或电商平台,要建议或强制植入保护眼睛、减少时长的推荐算法等。
“未成年人是易受人工智能算法影响的弱势群体,本市将进一步加强人工智能算法研究,围绕教育、医疗、公共安全等重点领域,开展相关理论研究。”市经信委表示,将会同市教委等有关部门,探索教育领域的人工智能示范应用清单,引导资源集聚,加快城市数字化转型。将鼓励相关企业与高等院校、基础教育机构,围绕智能教育伦理审核开展交流合作。
市网信办在答复中指出,为了解各企业算法应用及相关机制机理情况,2021年底,国家网信办同步开设互联网信息服务算法备案系统,相关算法推荐服务提供者通过该系统直接向国家网信办进行备案。截至今年1月,共有3批次102家企业的223个算法通过了备案。
2022年,国家网信办开展了“清朗·2022年算法综合治理”专项行动。其中,国家网信办检查组联合上海市网信办对上海属地近20家重点互联网企业开展了现场检查,未成年人权益保护相关情况是其中的一个重点检查项。检查组对算法安全主体责任建设、算法服务正能量传播和防范抵制违法不良信息的能力、适合未成年人使用的模式或者服务内容的建设、防网络沉迷等进行了深度检查。对发现的未提供相应模式或服务、存在不适宜内容、未有效设置防沉迷功能、扎推推荐泛娱乐化信息、持续推荐易沉迷信息等问题提出了整改要求。
市网信办表示,已督促相关企业就检查中发现的相关问题进行整改,并督导建立长效机制、持续强化算法综合治理、推动算法应用向上向善。下一步,相关部门将继续督促企业遵守法律法规,尊重社会公德和伦理,遵守商业道德和职业道德,持续按照相关法律法规要求,继续对企业在算法应用上开展监督检查,引导企业加强算法对未成年人的正面运用,积极传播正能量,促进算法应用向上向善,保护未成年人身心健康。
栏目主编:张骏
本文作者:王海燕
X 关闭
- 太阳能