(资料图片仅供参考)

证券时报记者 陈霞昌

近日，包头、安庆等地先后发生不法分子利用人工智能（AI）进行诈骗，涉及金额数百万元。资本市场同样出现AI负面影响的事件，某上市公司因为生成式AI写作虚假小作文导致股价大幅下跌。

在欧美，利用人工智能进行犯罪也有增多趋势。欧洲刑警组织在一份最新报告中警告，犯罪分子可能会利用人工智能精进犯罪手段。从发动网络钓鱼攻击、散布不实信息到安装恶意软件等，聊天机器人快速发展出的能力，被不法之徒频频利用来吸金诈财。

人工智能被誉为第四次工业革命的核心，长期以来都受到政府和行业的高度关注。今年以ChatGPT为代表的生成式人工智能更是在全球刮起旋风，资本市场对相关企业也给予了高度关注。但人们探讨的，更多是人工智能对各行各业带来的正面变革，甚少看到它高速发展可能带来的负面影响。业内仅有少数有识之士提出，希望人工智能在迅猛发展的同时，也要受到足够的约束和监管。

今年3月，在ChatGPT火出圈后，包括特斯拉总裁马斯克、苹果联合创始人史蒂夫·沃兹尼亚克在内的一批高科技人士发表联名信，呼吁所有AI实验室立即暂停更强大的AI系统训练至少6个月，以保证人类能够跟上人工智能进化速度，同时要求训练过程必须公开化、透明化，坚决防止人工智能出现自我意识。

“人工智能教父”杰弗里·辛顿今年年初就曾经警告，人工智能对人类构成的威胁将比气候变化更加紧迫。辛顿认为，人工智能是一种智能工具，可以辅助人类做一些繁琐、重复和创意性工作，但也会有不法之徒用它来做违法乱纪的勾当。人工智能不但能撰写文章，还能生成图像、视频。如果用来弄虚作假，几乎可以乱真，普通人很难识别出来。如果有人用它来制作虚假图像、视频，传递错误信息，其破坏力远大于单纯的文字形式。

当前在国内外发生的种种违法犯罪，正在应验辛顿的警告。可以预见，未来利用人工智能进行违法犯罪的事情会越来越多。金融市场和金融机构因为涉及资产价格和国家安全，人工智能犯罪的概率会更大。

今年4月，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》，旨在促进生成式人工智能技术健康发展和规范应用。但作为一个行业管理办法，显然不足以对汹涌而来的人工智能发展进行约束和管理。期待监管机构能够在更高层面对这一行业发展进行更多关注和规范。