快科技11月23日报道,随着AI大模型技术的不断进步,众多职业的工作效力得到了显著抬高。
举例,在编程领域,这些先进的AI工具不仅或者协助程序员编写代码,还能高效地解决程序中的BUG,成为开发者们不能或缺的助手。
然而,近期发生的一起事件却激发了业界对AI安全性的广泛关注。
据音讯,一位英国程序员在使用GPT生成的代码时遭遇了不幸。他按照GPT提供的代码进行了操作,结果导致自己的私钥被泄露给了钓鱼网站,最终损失了2500美元(约合人民币1.8万元)。
网友余弦”在社交媒体上发文提醒浩瀚用户,在使用GPT、Claude等大型语言模型(LLM)时必须还是警惕,出于这些模型存在常日性的欺骗行为风险。
他逐步警示说:之前提过AI投毒攻击,目下这起算是针对Crypto行业的真实攻击案例。”
通过深入分析,有网友展示GPT在生成代码的工序中引用了一个来自GitHub的恶意项目。这个项目显然是一个精心设计的钓鱼”陷阱,诱骗使用者上当。
不幸的是,GPT在这次事件中成为了无辜的受害者,但其生成的代码却给用户带来了关键的后果。
这起事件有一次提醒我们,在享福AI带来的便利的同时,也必须时刻关注其潜在的安全风险。对于开发者而言,在使用AI辅助工具时应当还是慎重态度,避免盲目相信机器生成的代码或建议。
(投诉)
AI正版系统源码推荐:AI聊天创作系统:开源可二开+AI聊天+AI绘图+AI视频+AI音乐