技术、法律携手，治理“按键”伤人(2)
据介绍，采用人工智能识别技术，能够有效地在公共网络空间中将各种恶意语言、图片、视频等网络暴力“源头”识别出来。这种识别基于人工智能技术的先进算法，相比于人工识别，具有更加高效、准确、客观等优势。
“人工智能技术对于遏制网暴的最大作用，在于其强大的自然语言理解能力。”闫怀志指出。针对评论、弹幕等典型的非结构化语言数据，人工智能可以利用情绪解析、文本观点提取、词法分析、文本相似度识别等技术，实现对网暴的全量、多维度、快速分析，并进一步在此基础上，弄清楚相关受众在看待相关话题时的想法、情绪与核心观点，从而阻断网暴传播链的环节，最大限度地降低网暴带来的负面影响和危害。
“必须指出的是，人工智能识别技术不能完全代替人工识别，应该把二者结合起来，发挥各自的优势，确保网络暴力行为的认定准确可靠。”闫怀志说。如果仅仅依靠人工智能识别技术，可能会因为其机械性、固定性等缺陷，造成一些令人啼笑皆非的认定错误，陷入过犹不及的境地。
双管齐下治理网络暴力
有效制止网络暴力行为，除了技术手段，还需要法律的参与。
网络平台可普及评论智能过滤、评论或私信动态关闭、识别屏蔽恶意用户等功能，有效遏制网络暴力问题。同时，还可以利用人工智能识别技术，在对评论进行大数据模型匹配和校验后，向违规发言者做出言论提醒，及时制止网络暴力行为。
记者了解到，针对网暴治理，国内多个网络平台正在展开行动。
北京爱奇艺科技有限公司有关人士向记者介绍，他们上线了私信防范网暴的功能，可以便利地使用一键举报网络暴力行为、关闭消息功能，以减少网络暴力内容对用户造成的负面影响。该公司还积极引导用户发布正向内容，对存在潜在网络暴力内容的信息做出提示，引导发布者进行善意的表达，助力营造健康的网络环境。
“网络暴力行为实施者依其行为的恶劣程度，可能要承担民事、行政和刑事责任。”陈磊指出。根据我国民法典的相关规定，网络暴力实施者造成他人损害的，应承担侵权责任；如果其行为较为恶劣或者情节较为严重，则需要承担相应的行政责任；如果其以肉体暴力或者其他极端方法进行网络暴力，情节特别严重的，就需要承担相应的刑事责任。
陈磊进一步指出，任何个人和组织使用网络都应当遵守宪法法律，遵循公共秩序和社会公德，不得利用网络从事侵害他人合法权益等活动。整治网络暴力等网络不良行为乱象，需要行政监管、互联网平台、网民等多方主体共同参与。我们应该合力净化网络生态，营造积极健康、清朗有序的网络环境。
(责编：罗知之、陈键)
