OpenAI
-
谷歌威胁情报小组警告:“LLM劫持”升温,暗网以一折价格倒卖OpenAI、Anthropic、谷歌大模型访问权限
从暗网活跃程度看,AI资源已不只是黑客手中的“工具”,而在演变为可交易、可囤积、可转售的“资产”。卖家提供的“有保障访问”本质上是一种商业化的风险对冲,说明这条供应链已具备相当程度的组织化与专业化。
-
美国国土安全部从OpenAI调取用户数据,查出暗网儿童性剥削网站的管理员
搜查令显示,OpenAI已向HSI提交了一份包含用户信息的Excel表格,尽管具体数据尚未公开。此案是首个公开的反向AI提示请求案例,表明执法部门正利用ChatGPT的交互记录作为刑事调查的证据来源。
-
卡巴斯基发现有3000篇暗网帖子讨论如何滥用ChatGPT和LLM等人工智能工具
尽管OpenAI等供应商已尝试使用内容审核策略来阻止ChatGPT产生恶意输出,但事实证明这些策略不足以防止滥用,而且很容易通过越狱和其他技术来规避。
