振亚
从智能家居到自动驾驶,从语音助手到图片生成,AI的广泛应用为人们的生产、生活带来前所未有的便利。与此同时,一些令人不安的乱象也悄然出现。
AI换脸技术的滥用,达到了以假乱真的程度。“张文宏医生”推销蛋白棒的视频曾一度在网络上疯狂传播,可随后就被本人亲自“打假”,原来这不过是用AI换脸技术制造的产物;还有多位配音演员声称自己的声音被AI“偷走”,不得不站出来公开维权。当下,AI换脸、AI合成声音的App大量涌现,导致未经他人授权就使用他人头像、声音来制作AI产品的情况越来越常见,不仅严重危害个人信息安全,也扰乱了互联网空间的良好生态、秩序。
利用AI编造虚假新闻的现象也开始冒头。一些网民为博眼球、蹭热度,将AI技术用来编伪消息、造假新闻,以此来获得网民关注和点赞量,进而实现流量变现。自去年开始,公安机关就侦破了不少此类案件。这种造假行为误导公众,干扰正常的舆论,破坏社会秩序,产生极为恶劣影响。
更让人揪心的是,为用户提供情感倾诉和陪聊服务的AI虚拟伴侣开始在市场现身,让一些用户沉迷其中甚至产生了情感依赖,引发人们关于伦理和道德的担忧。
AI应用场景中出现的这些情况不容忽视,绝不能让AI乱象肆意蔓延。基于此,应积极构建一套涵盖源头审核、过程监控、事后追责的全链条社会监督机制。在源头预防上,要加大对AI技术研发和应用环节的监管力度,确保其遵循法律法规并且符合伦理道德标准;在使用过程中,建立起行之有效的监控机制,以便能够及时察觉并制止违法违规行为;在事后追责方面,应严厉追究相关责任人的责任,从而形成强大的威慑力,推动AI技术健康、有序发展,确保其更好地服务于人类社会。