作者文章

fwq

FWQ
行业新闻
美国的TikTok发生了什么?记录一个陷入困境的社交网络的过程。
美国为何封锁了抖音,接下来会发生什么?从安全问题和政治操作,到疯狂理论和科技巨头争夺控制权,这场剧情正在展开的未来有何预期 几天前,也就是1月19日之前,我的一些在美国的朋友们几乎都绝望了,因为抖音(TikTok)本应永远消失——但最后并没有。 社交媒体网络有很多,但这款中国应用程序却以其独特的算法、直观的设计和标志性的“氛围”赢得了数百万的心,其中在美国就有1.7亿。 这个受欢迎的社交媒体网络在18号的周六晚上被公司关闭,以免面临法律的责任。 这场停电持续了大约12个小时。 在所有悲伤的告别之后,所有的美国Tiktok用户们通过分享视频来流泪,表达对失去这样宝贵的网络空间的悲痛,以及所有关于一些内容创作者在“失去他们的账号”之前做出的亲密和有争议的告白背后的戏剧性,这款视频分享应用开始慢慢复苏,最终被特朗普“拯救”。 我们都感到困惑。 在TikTok上受人喜爱的新闻爸爸——记者Dylan Page——向他的美国粉丝们道别,并且为了抗议TikTok的禁令染了头发,他分享了一篇让人大吃一惊的帖子 即使作为非美国居民,全世界的用户也密切关注了数周的情况,他们听取了他们最喜欢的美国创作者的建议,通过其他平台保持联系,并等待看会发生什么。 现在,我们有了更多的问题。这是政治噱头吗?疯狂的商业策略?这一切从一开始就计划好了吗?Beast先生和马斯克是在互相竞争购买字节跳动的应用程序吗?TikTok会在75天内消亡吗? 备受喜爱的算法 有一件事情是肯定的,并在关闭期间得到了确认:TikTok在美国和全球都有很大的影响力。它特殊且神秘的算法现在就像是可口可乐的配方,Meta,X,Bluesky和每一个其他的热门平台都希望他们有这样独特的产品。 TikTok的权力之争始于多年前,当美国当局意识到它不仅仅是一个受欢迎且令人着迷的平台,而且还是一种能够轻松收集用户数据并有可能与中国政府分享的工具。 2020年,唐纳德·特朗普试图以国家安全为由禁止这个社交媒体应用在应用商店上架,但这一禁令被阻止。后来,拜登政府也承认TikTok通过其母公司字节跳动与中国政府的紧密联系。 去年三月,针对这一安全问题的解决方案宣布出台,当时立法者们通过了一项法案:抖音必须被一家美国公司收购,否则将面临被禁止。 自然,字节跳动拒绝了这一要求,随后多件事情开始展开。一群抖音创作者向美国政府提起诉讼,因为他们认为禁止该应用的意图违反了第一修正案和他们的言论自由权——这也是Meta取消其事实核查计划的同样论点。当然,他们得到了抖音的财务支持。 六月时,路透社报道称TikTok秘密复制其算法,以创建一个全新的版本,与字节跳动公司分离,仅供美国用户使用,并要求员工为新程序分离数百万行代码。Tiktok表示这完全是假的,且“不准确”。 种种猜测 数月以来,无数的理论和猜测四处流传,试图解释发生的一切。 一些社交媒体用户和专家声称抖音的停摆只是一个政治噱头。开始对抖音发起战争的唐纳德·特朗普,现在被视为抖音的“救世主”,在美国Z世代中收获了人气,并在国家有社会影响力的重大决策中重新确认了他的权力和权威。 抖音公开感谢特朗普——支持这一理论——但也有人认为这只是一种商业动作,就像马斯克、扎克伯格,以及最近的Sam Altman一样,这是一种讨好特朗普的策略。 国家安全问题——美国禁止该应用的主要原因,已经受到了数百万用户的质疑,他们以反抗政府的行动,决定加入中国社交网络RedNote——中文名为小红书。这个平台的名字本身就带有政治含义,可能是对毛泽东的《小红书》的寓言——这是被用作宣传的中国共产主义的象征,并在文化大革命期间作为一种意识形态策略。 而且,美国人甚至已经开始学习普通话了。Duolingo证实,他们注意到在美国学习中文的人数在禁令前几天达到了顶峰,增长了216%。在向新的中国应用转移期间——因为默认的应用语言是普通话,大多数用户只会说中文。 数百位用户将此禁令视为政府控制人口的举动,他们在社交媒体上分享视频,表示他们不在乎中国政府使用他们的数据。另一些人开始在社交媒体上传播另一种流行理论:Meta想要收购TikTok。 其他理论保持资本主义的关注焦点。当TikTok关停时,其他公司开始采取行动。Meta在1月19日”巧合”地分享了新的视频功能——就像其他社交媒体平台一样,他们在产品中添加了吸引力,渴望吸引所有那些对TikTok充满失落感的用户至他们的应用程序。 Instagram宣布了一个名为Edits的新视频编辑工具,而Bluesky和X更新了他们的动态,以便更容易看到更多视频,并重塑TikTok的体验。 但是没有任何东西能像抖音那样,甚至连抖音自己也不行。…
2025-05-08 阅读全文 →
FWQ
行业新闻
DeepSeek在网络攻击后限制注册
中国AI创业公司DeepSeek在周一暂时限制了新用户的注册,原因是其服务遭受了“大规模恶意攻击”。尽管受到了影响,该公司向现有用户保证其登录将不会受到影响。 急着了解情况?看看这些要点吧! DeepSeek由于”大规模恶意攻击”而限制了新用户的注册。 网络攻击始于1月27日的中央标准时间晚上9点33分左右。 网站中断是DeepSeek在过去90天中最长的一次。 DeepSeek 的AI助手在同一天超过了OpenAI的ChatGPT,成为美国苹果应用商店下载量最高的免费应用。这个公告正好与网络攻击和随后的服务中断事件同时发生。显然,DeepSeek AI助手的热度飙升与这些事件有着密切的关联。 根据The Register的报道,这些攻击大约在中国标准时间(CST)1月27日晚上9点33分开始,相当于美国太平洋标准时间(PST)的早上5点33分。在报道时,这次中断仍在继续。 尽管出现了问题,但Google的单点登录功能对于注册和登录仍然报告为正常,时间为太平洋标准时间上午10点30分。DeepSeek尚未回应The Register关于这种情况的评论请求。 路透社报道,周一早些时候,该公司还面临网站中断问题,影响了用户访问。根据DeepSeek的状态页面,当天晚些时候问题得到了解决,对其应用程序编程接口和网站登录系统进行了修复。 该公司指出,这些中断是过去90天里最长的一次,与其通常稳定的表现形成了鲜明的对比,如路透社所报道。 DeepSeek的人气如日中天,这与全球对人工智能工具日益增长的热情相吻合。这些攻击的时机,再加上DeepSeek新近赢得的大众关注,引发了人们对AI公司在快速扩张过程中所面临挑战的疑问。 目前,公司仍在专注于稳定其服务并解决这一意外需求激增所带来的影响。
2025-05-08 阅读全文 →
FWQ
行业新闻
阿里巴巴发布新款Qwen人工智能模型,声称其性能超越DeepSeek-V3
中国巨头阿里巴巴于本周三发布了其旗舰AI模型Qwen的最新版本。该公司声称,其性能优于热门的DeepSeek-V3。 赶时间?这里有重点速览! 阿里巴巴本周三发布了其最新的推理模型Qwen 2.5-Max。 这个中国巨头声称其性能超越了诸如DeepSeek-V3、GPT-4o和Llama-3.1-405B等流行模型。 该公司本周还推出了Qwen2.5-VL,这是一个能够处理图像并作为AI代理使用电脑和手机执行任务的AI模型。 根据路透社的报道,阿里巴巴在中国农历新年期间推出了新的推理模型Qwen 2.5-Max,以加入过去几天大规模的人工智能开发,并增加国内竞争。 周一,DeepSeek在美国苹果应用商店中位居第一,超过了ChatGPT,引起了AI行业其他公司的关注,也使投资者感到警觉——Nvidia的股价在短短一天内下跌了17%。 现在,阿里巴巴已经宣布了其Qwen模型的最新版本——去年9月份,它推出了Qwen套件的100种开源AI模型,并承诺比流行的前沿模型有更好的效果。 “Qwen 2.5-Max 在几乎所有方面都超越了 GPT-4o、DeepSeek-V3 和 Llama-3.1-405B。” 这家公司在其官方微信账户上写道。 新的推理模型 Qwen 2.5-Max 的 API 可以通过阿里巴巴的云服务获得,用户也可以在其聊天页面上测试该模型。 “我们正在开发Qwen2.5-Max,这是一个大规模的MoE模型,已经在超过20万亿个标记上进行了预训练,并进一步通过精心策划的监督精细调教(SFT)和人类反馈的强化学习(RLHF)方法进行了后期训练。”Qwen团队在Github上写道。 这家中国巨头公司在周一还发布了Qwen2.5-VL,一系列可以处理图像并可以访问手机和电脑进行任务的多模态AI模型。OpenAI宣布了一个类似的功能,Operator,允许ChatGPT自主控制用户的电脑并执行任务。 根据阿里巴巴的团队,所有的Qwen模型都超越了来自OpenAI、微软、谷歌、Meta和DeepSeek的类似版本。
2025-05-08 阅读全文 →
FWQ
行业新闻
中国AI模型DeepSeek对OpenAI和其他硅谷公司构成多大威胁?
DeepSeek进入了美国市场,超越了App Store上的OpenAI,影响了Nvidia的股票,并引发了人们的关注,惊讶和广泛的采用 – 甚至在硅谷公司中也是如此。这个中国初创公司成功地创建了一个有竞争力的AI产品,挑战了美国AI公司的未来 AI领域有了新的领导者,其到来震动了全球科技行业。就在几天前,一个小型的中国初创公司DeepSeek发布了其最新的开源AI模型,强大的R1,让许多科技巨头,投资者和AI开发者感到惊慌。 新的AI模型比许多人预期的要强大。很快,DeepSeek的AI模型就取得了广泛的知名度——可能得益于中国网络的炒作和推广,它被宣传为世界上最先进的技术——并且在美国的Apple App Store上排名第一。 几乎立刻,新闻媒体纷纷报道了DeepSeek的情况。 OpenAI,曾在2024年自信满满地赢得AI竞赛,开始失去力量,而Nvidia的股价大幅下跌,一天之内几乎损失了6亿美元。很难精确衡量这个新威胁对美国经济的影响有多大,但肯定不小。 从安全问题和潜在诉讼,到脆弱的科技市场,再到开源AI模型的爆炸式采用,以下是理解当前DeepSeek剧变的必要信息: 什么是DeepSeek,为什么它现在如此重要? DeepSeek是一个小型创业公司,由中国工程师和企业家梁文峰于2023年创立,并得到了中国量化对冲基金High-Flyer Capital Management的支持。自创建以来,它一直在开发开源的AI模型,但直到几个月前才开始引起关注。 在Wizcase,我们报道了他们在11月份发布了DeepSeek-R1-Lite模型的预览,并注意到了专家和用户对这个能与OpenAI的o1竞争的产品产生的兴趣。 DeepSeek发布了DeepSeek-L3,R1的前身,于去年12月吸引了硅谷专家的注意,如Andrej Karpathy—OpenAI的前研究员和现任Tesla的AI主管,他目前正在建设一个AI本地化教育平台。Karparthy强调了构建模型的成本降低和其他有趣的特性。 它的成本更低,低很多 根据其官方论文,DeepSeek-L3的建造成本为557.6万美元—考虑到所有的训练成本—而OpenAI在2023年建造GPT-4时花费了超过1亿美元。 这比GPT-4便宜了大约94%! 1月15日,他们推出了一款手机应用程序,1月20日,这个中国初创公司推出了其最新的推理AI模型R1。这个模型似乎在Daft Punk的“更硬、更好、更快、更强”的魔咒下诞生,他们成功地提供了一个免费的、开源的高质量产品,该产品的成本只有前沿模型的一小部分,而且交付时间创下了纪录。Boom! 新款R1模型的价格尚未公布。但许多人推测,其价格必须保持在较低水平,因为DeepSeek目前提供的API价格远低于OpenAI的o1,而且根据《自然》杂志的报道,DeepSeek正在允许研究人员试用该模型。 马里奥·克伦——德国埃尔兰根马克斯·普朗克光学科学研究所人工科学实验室的负责人——表示,用OpenAI的o1进行的实验花费大约为370美元,而用R1进行同样的实验甚至不到10美元。克伦在接受《自然》杂志采访时表示:“这是一个巨大的差异,肯定会影响其未来的采用情况。” 有待改进 全球的用户开始下载这个应用程序,测试DeepSeek的模型,并对其令人着迷的推理能力,比如其思维链条,表示赞赏。同时,他们也注意到了一些奇特之处。 就像其他所有的AI模型一样,DeepSeek的R1也会产生幻觉,但这个中国模型还会过滤信息,特别是当它可能影响到中国政府的时候。…
2025-05-08 阅读全文 →
FWQ
行业新闻
互联网和AI真的会损害记忆力吗?科学家们发表了看法
最近,《自然》的一份报告探讨了数字技术和人工智能对人类记忆的影响,挑战了互联网正在侵蚀认知能力的恐惧。 赶时间?这里有快速事实! 研究表明,AI和GPS改变了人们记忆信息的方式。 AI生成的摘要可能会增强用户对自身知识的自信。 哈佛大学的丹尼尔·沙克特表示,没有强有力的证据表明技术与总体记忆衰退有关。 虽然搜索引擎、GPS和AI驱动的工具塑造了人们的学习和记忆方式,但研究人员认为,关于记忆衰退的过于夸大的说法是被夸大了的。 《自然》杂志报道了德克萨斯大学奥斯汀分校的心理学家Adrian Ward是如何亲身体验到他对数字导航的依赖性的。在苹果地图出现故障,无法使用之后,他发现自己在熟悉的奥斯汀地区迷了路。他说:“我本能地打开地图,按照它的指示行事。” 这种对科技的依赖引发了对‘数字遗忘’的担忧,这个词是由一个软件公司创造的,用来描述因为信息存储在设备上而被忘记的情况。牛津大学甚至将‘脑退化’——一种因为消费琐碎的在线内容导致的精神衰退——定为2024年的年度词汇。 然而,研究描绘出了一个细致入微的画面。一些研究表明技术改变了记忆任务:例如,使用GPS的人们较难有效地回忆路线。《自然》杂志报道,沃德自己的研究发现,用谷歌搜索信息会让人们过度自视为知识渊博。 然而,杜克大学的记忆专家伊丽莎白·马什反驳了这些极端的观点,称其为“过度夸大”,这一点也得到了《自然》杂志的报道。 随着AI现在已经整合到搜索引擎中,它对记忆的影响可能会非常深远。Marsh指出,“这整个ChatGPT的事情是另一个层次的技术,这与在Google浏览器中只是键入‘马达加斯加的首都是什么?’完全不同,”《自然》杂志报告。 人们担忧的问题包括AI可能会培养出认知懒惰,甚至植入虚假的记忆。 已故个体的数字化头像——所谓的‘死者机器人’——也可能改变个人的回忆。爱丁堡大学的Andrew Hoskins说,“这种方式恰似在重塑我们从未经历过的过去,”《自然》杂志报告。 2011年,哥伦比亚大学的心理学家贝茜·斯帕罗进行的一项研究提出,互联网会削弱记忆力,这个观点引起了广泛关注。在她的实验中,参与者更可能记住他们在网上存储事实的位置,而不是事实本身,这种现象被称为“谷歌效应”,《自然》杂志曾对此进行过报道。 然而,后来的复制实验结果却出现了混杂,这引发了对该研究结论的争议。 沃德将此视为“认知卸载”的一部分,人们将记忆任务委托给外部辅助工具。这可能有益,释放认知资源。然而,搜索结果中的AI生成的摘要可能会导致用户将在线知识与自身知识混淆,从而产生误放的信心,Nature杂志这样说道。 尽管研究证实技术影响了特定任务的记忆,但哈佛大学的丹尼尔·沙克特尔(Daniel Schacter)断言,“几乎没有证据表明这些技术正在导致记忆的广泛衰退,”Nature杂志报道。 相反,研究人员建议,信息过载的增加和自然老化可能比互联网本身更加促使记忆力出现问题。
2025-05-08 阅读全文 →
FWQ
行业新闻
Meta推出语言技术合作伙伴计划,以推进AI翻译的发展
Meta今日宣布与联合国教科文组织合作推出其语言技术合作伙伴计划,旨在收集各种语言的音频和文本,以增强和开发AI翻译模型。 急着赶时间?看看这些要点! Meta与联合国教科文组织合作,推出了语言技术合作伙伴计划,以增强AI翻译模型的能力。 该倡议专注于服务不足的语言,全球组织都被邀请参与。 预计合作伙伴将提供超过10小时的音频和转录,以及用该语言编写的长篇文本,以训练AI模型。 语言技术伙伴计划专注于支持资源匮乏的语言,以支持联合国教科文组织的全球倡议,即国际原住民语言十年——这个计划旨在提高人们对全球原住民语言的认识并保护这些语言。 这家科技巨头也发出了一个公开邀请,希望更多的人和组织加入该计划。Meta期望新的合作伙伴能够提供超过10小时的语音录音以及超过200句的大段文字的转录。 “我们与联合国教科文组织的合作,以扩大AI模型对服务不足语言的支持,是这项努力的重要部分,”Meta分享的公告中写道。“开发能够处理多语言问题并在服务不足的语言中工作的模型,不仅可以在数字世界中推动语言多样性和包容性,还可以帮助我们创建能够适应新情况并从经验中学习的智能系统。” 作为交换,加入该项目的合作伙伴将从Meta的研究团队那里获得技术工作坊。加拿大努纳武特政府已经同意通过提供因纽特语(Inuktitut)和伊努伊纳克图语(Inuinnaqtun)的数据来进行合作。 Meta还宣布了一个开源的机器翻译基准,允许其他公司和AI开发者测试他们的翻译模型。 西班牙最近公布了一个名为Alia的开源AI模型,它被训练以使用卡斯蒂利亚语,以及该国的其他官方语言:加泰罗尼亚语,巴斯克语,加利西亚语和瓦伦西亚语。
2025-05-08 阅读全文 →
FWQ
行业新闻
元邮件揭示了为AI训练盗版书籍的大量下载
新近解密的电子邮件已经浮出水面,被书籍作者们称为对Meta正在进行的版权诉讼的“最有力的证据”,这是首次由Ars Technica报道的。 急着了解情况?这里有快速事实! Meta从像LibGen和Z-Library这样的影子图书馆中下载了81.7太字节的盗版书籍。 内部邮件显示,Meta的员工对下载和分发版权材料提出了法律顾虑。 Meta据称通过避免使用Facebook服务器并尽量减少分发活动来隐藏其下载行为。 Ars Technica报道,作者们指控Meta非法地使用盗版书籍训练其AI模型,而电子邮件揭示了公司内部对于种子传播和下载受版权保护的材料的合法性的担忧。 上个月,Meta承认下载了一个名为LibGen的争议性数据集,其中包含数千万本盗版书籍。 然而,直到未删除的电子邮件被公之于众,具体细节才得以澄清。 根据作者的法庭文件,Meta通过Anna’s Archive站点在多个暗网图书馆中,至少下载了81.7太字节的数据,包括至少来自Z-Library和LibGen的35.7太字节的数据。此外,“Meta以前也从LibGen下载了80.6太字节的数据。” “Meta非法下载的规模令人震惊。”作者的文件指出,即使“数据盗版的行为规模小得多——只有Meta盗版的版权作品数量的.008%,也已经导致法官将行为转交给美国检察官办公室进行刑事调查。” Ars Technica指出,这些邮件还揭示了Meta员工内部的不安。2023年4月,研究工程师尼科拉·巴什雷科夫写道:“在公司的笔记本电脑上使用Torrent下载感觉不太对”,并附上一个笑脸表情符号。 他对使用Meta IP地址“通过Torrent下载盗版内容”表示了担忧。到2023年9月,巴什雷科夫已经不再笑了,他咨询了Meta的法律团队,并警告说“使用Torrent下载会涉及到‘播种’文件——也就是说,将内容分享出去,这在法律上可能是不合规的。” 尽管有这些警告,作者们声称Meta继续通过种子下载和分享盗版内容,甚至试图隐藏其活动。 Ars Technica报道,内部信息显示,Meta为了”避免”任何人”追踪到种子下载者/分享者”的”风险”,而选择不使用Facebook的服务器下载数据集,研究员Frank Zhang如此描述。 Meta公司的高级主管迈克尔·克拉克在证词中也承认,设置被修改过”以使得可能发生的播种量最小化。” 作者们现在争辩说,涉及到torrent决策的Meta员工必须再次接受询问,因为新的证据据称”与之前的证词相矛盾。” 例如,尽管CEO马克·扎克伯格声称自己未参与使用LibGen进行AI训练,但未经审查的信息显示,“决定使用LibGen”是在“先前向MZ进行升级”之后发生的。 Ars Technica报道,Meta坚称其在LibGen上的AI训练构成了“合理使用”,并否认非法分发作者的作品。然而,关于torrenting的启示复杂化了其辩护,使得作者们能够扩大他们对直接侵犯版权的指控。 随着案件的进行,Meta因其处理版权材料的方式面临越来越大的审查,作者们决心让这个科技巨头为他们所描述的一个“大规模非法下载计划”负责。
2025-05-08 阅读全文 →
FWQ
行业新闻
克里斯蒂拍卖行因AI艺术拍卖引发版权争议的反弹
将近4000人已经签署了一封公开信,敦促克里斯蒂纽约拍卖行取消即将举行的增强智能拍卖,该拍卖将展示由AI创作的艺术品。这标志着一家主要拍卖行首次将整个拍卖会专门用于AI生成的艺术品。 赶时间?这里有快速事实! 人们关注的焦点在于AI模型未经艺术家许可或支付费用就使用其受版权保护的作品。 佳士得拍卖行为该拍卖辩护,声称艺术家的作品因AI技术而得以提升。 艾德·牛顿-雷克斯批评佳士得对AI模型利用人类艺术家的行为表示纵容。 这封信在拍卖公告发布的第二天开始流传,它强调了人们对一些AI程序可能在未经许可的情况下,用于创作的作品上进行训练,可能会侵犯版权,剥削人类艺术家的担忧,如CNN首次报道的那样。 这场预期将产生超过60万美元的拍卖会,包括了Refik Anadol、Harold Cohen、Holly Herndon、Mat Dryhurst、Alexander Reben和Claire Silver等知名艺术家的作品。 此次拍卖会展出了20多个拍品,跨越了五个十年,包括各种各样的作品,如数字原生件如非同质化代币(NFTs),以及灯箱、屏幕、雕塑、绘画和版画等。竞标将于2月20日开始,3月5日结束。 信件的作者们辩称,用于创作部分作品的AI模型是在未经原创作者同意的情况下,使用了受版权保护的素材进行训练。”这些模型,以及背后的公司,利用人类艺术家,未经许可或付款就使用他们的作品,构建可以与他们竞争的商业AI产品,”信中写道。 “你对这些模型,以及使用它们的人的支持,奖励并进一步鼓励AI公司大规模窃取人类艺术家的作品。” CNN争论说,这场争议源于使用版权作品来训练生成型AI模型,例如Midjourney、Stable Diffusion和Dall-E,这已经导致了针对科技公司的诉讼。 虽然艺术家们争论说他们的作品被无偿使用,但公司们通过援引公平使用权来为他们的做法辩护,这使得他们可以在未经许可的情况下有限地使用版权材料。 Ed Newton-Rex,非盈利机构Fairly Trained的首席执行官,该机构为公平采集数据的生成式AI公司颁发认证,批评了佳士得对模型的纵容。 克里斯蒂的数字艺术专家,Nicole Sales Giles和Sebastian Sanchez,正在监督这场拍卖。 在向艺术新闻报发表的一份声明中,拍卖行为这次销售进行了辩护,声明:“在这次销售中代表的所有艺术家都有强大的,已经存在的多学科艺术实践,其中一些被顶级博物馆收藏。这次拍卖中的作品都使用人工智能来增强他们的作品系列。” 虽然有些人,如艺术家Sarp…
2025-05-08 阅读全文 →
FWQ
行业新闻
影子AI威胁企业安全
随着AI技术的飞速发展,各组织正面临一个新兴的安全威胁:影子AI应用程序。这些未经IT或安全监督的员工开发的未授权应用程序正在各公司中传播,往往未被察觉,正如最近的VentureBeat文章中所强调的那样。 急着了解?这里有快速的事实! 影子AI应用是由员工在没有IT或安全审批的情况下创建的。 员工创建影子AI以提高生产力,通常没有恶意意图。 公共模型可能会暴露敏感数据,为组织带来合规风险。 VentureBeat解释说,尽管这些应用中的许多并非故意恶意,但它们对企业网络构成了重大风险,从数据泄露到合规性违规都有可能。 “影子AI”应用通常由寻求自动化日常任务或优化运营的员工构建,这些应用使用的AI模型是通过公司专有数据进行训练的。 这些应用通常依赖像OpenAI的ChatGPT或Google Gemini这样的生成AI工具,缺乏必要的安全防护措施,使得他们极易遭受安全威胁。 根据Prompt Security的首席执行官Itamar Golan的说法,“大约40%的模型会默认训练你提供的任何数据,这意味着你的知识产权可能会成为他们的模型的一部分,”VentureBeat报道。 暗影人工智能的吸引力显而易见。在面临越来越大的压力,要满足严格的截止日期和处理复杂的工作量的员工,正在转向这些工具来提高生产力。 WinWire的首席技术官Vineet Arora在接受VentureBeats采访时指出,“部门之所以会使用未经批准的AI解冖方案,是因为其带来的即时收益实在是太吸引人了。”然而,这些工具带来的风险却是深远的。 Golan将这种未经批准的AI比作体育运动中的兴奋剂,他说,“这就像环法自行车赛中的兴奋剂。人们想要获得优势,却没有意识到长期的后果,”这是VentureBeats的报道。 尽管它们有着诸多优势,但阴影AI应用程序也使组织暴露于一系列的漏洞中,包括传统安全措施无法检测到的意外数据泄漏和快速注入攻击。 这个问题的规模令人震惊。Golan向VentureBeats透露,他的公司每天都会记录50个新的AI应用程序,目前已经有超过12,000个在使用中。Golan建议说:“你无法阻止海啸,但你可以造一艘船。”他指出,许多组织对于他们网络中阴影AI使用的范围感到措手不及。 例如,一家金融公司在为期10天的审计中发现了65个未经授权的AI工具,远超过他们的安全团队预期的不到10个工具,这是由VentureBeats报道的。 影子AI的危险对于受监管的行业来说尤其严重。一旦专有数据被输入到公共AI模型中,就很难进行控制,从而可能导致合规性问题。 戈兰警告说:“即将到来的欧盟AI法案可能会使GDPR的罚款相形见绌”,而Arora则强调了数据泄露的威胁以及如果组织未能保护敏感信息,可能面临的惩罚,这是VentureBeats报道的。 为了解决日益严重的暗影AI问题,专家建议采取多方面的方法。Arora建议组织建立集中的AI治理结构,定期进行审计,并部署能够检测AI驱动的攻击的AI感知安全控制。 此外,企业应为员工提供预先批准的AI工具,并明确使用政策,以减少使用未经批准的解决方案的诱惑。
2025-05-08 阅读全文 →
FWQ
行业新闻
针对Mac用户,出现通过假冒更新的网络安全威胁
网络安全研究人员已经揭露了两个新的网络犯罪团伙,TA2726和TA2727,他们对网上的攻击负有责任,包括假更新诈骗和针对Mac,Windows和Android设备的恶意软件攻击。 赶时间?这里有快速事实! TA2727针对Mac用户推出了一种名为FrigidStealer的新型恶意软件,同时还威胁Windows和Android用户。 由于多个威胁行为者使用类似的方法,网络注入活动更难追踪。 恶意的假更新仍然是传播恶意软件的常见手段,尤其是在被侵害的网站上。 这种攻击,主要是将恶意代码注入合法网站,诱使用户下载有害软件,正在变得越来越普遍。 Proofpoint,一家网络安全研究团队,今天发布了一个更新,关于这些”网页注入”活动的频率增加,其目标是通过将用户重定向到被破坏的网站,这些网站看起来值得信任,从而感染用户。 网页注入通常涉及恶意脚本,当用户访问被破坏的网站时运行。这些脚本可以强迫网站显示假的更新通知,欺骗用户点击欺诈性的更新并安装恶意软件。 由于多个行动者采用相同的方法并相互合作,这种攻击变得越来越难以追踪。 从历史上看,TA569组织以使用假冒更新来感染用户的恶意软件而闻名,但在2023年,包括TA2726和TA2727在内的一些组织开始使用类似的策略,正如Proofpoint所解释的。 这些演员通过被黑客攻击的网站散播恶意软件,而非通过邮件活动,这使得检测攻击变得更具挑战性。 例如,TA2726充当”流量分发器”,将用户重定向到各种恶意软件活动中。这个团队与像TA569和TA2727这样的为了财务目的而行事的人合作,利用被黑客攻击的网站散播恶意软件。Proofpoint的调查揭示,自2022年9月以来,TA2726在这些攻击中一直是关键角色。 另一方面,TA2727专注于传播各种类型的恶意软件,包括一种名为FrigidStealer的信息窃取器,该窃取器针对Mac用户。 Proofpoint指出,早在2025年初,研究人员就在针对Windows和Mac电脑的活动中观察到了这种恶意软件。对于Mac用户,攻击会将他们重定向到一个假冒的更新页面,点击“更新”按钮会下载伪装成合法浏览器更新的恶意软件。 FrigidStealer会收集敏感信息,如密码、cookies和与加密货币相关的文件。研究人员解释说,此恶意软件然后将这些数据发送给负责此次攻击的网络犯罪分子。 虽然在企业环境中,Mac用户比Windows用户少,但这些攻击正在越来越频繁地发生。 专家建议采取强大的网络安全措施来防御这些威胁,包括使用端点保护,训练员工识别可疑活动,以及避免点击不受信任的更新通知。
2025-05-08 阅读全文 →