记者 / 孟圆琦

你想过在 AI 世代之下，还能如何借助人工智慧重新界定工作、加速回应使用者需求吗？联想 (Lenovo) 於今年位处西雅图的创新科技大会 2024(Tech World 2024)上，正式发表促使公用及私人云端、企业及个人解决方案，能在安全无缝情况下整合的混合式 AI 发展。Lenovo 董事长暨执行长杨元庆与多位 AI 业界领袖共同出席，包括 AMD 董事长暨执行长苏姿丰、英特尔执行长 Pat Gelsinger、NVIDIA 创办人暨执行长黄仁勳等，大秀 AI 转型成果。

…

编译／Cynthia

随着AI技术的迅速发展，企业在追求创新与效率的同时，往往忽略安全防护，导致系统变得容易受到攻击。在AI技术带来的新安全挑战、内部与高层面临的AI威胁，及资安专才短缺与技能差距等挑战，迫使企业重新思考其安全策略，并针对不同的威胁采取相应的防护措施。本文将针对这些威胁进行详细说明，帮助企业理解并有效应对当前的安全问题。

AI技术带来的新安全挑战

随着AI技术的发展，企业面临的安全威胁也变得更复杂，包括自动化漏洞发掘、生成式AI的武器化，以及精准的网路钓鱼攻击。企业需要了解这些新威胁并采取对应策略，通过适当的防护措施来保护系统和数据安全。

更多新闻：钓鱼攻击成漏网之鱼 电邮过滤器怎麽了

1.AI自动发掘程式漏洞的威胁

• AI技术能够快速识别程式中的漏洞，其自动化程度远超传统的骇客。尤其是对於尚未修补的漏洞，如零日漏洞，这对企业的安全构成重大威胁。
• 应对策略：企业应该安装先进的AI防御系统，主动搜寻和修补漏洞。透过加快漏洞修补的速度和持续的监控，可以有效减少这些漏洞被利用的风险。

2.生成式AI被武器化的风险

• 生成式AI被武器化的风险生成式AI技术的普及使得攻击者能利用这些技术进行数据篡改或生成欺诈内容，对企业造成重大损害。
• 应对策略：企业应采用如Google的安全AI框架（SAIF）等已建立的风险管理框架，强化对生成式AI的安全防护，包括进行数据验证和模型监控，以降低相关风险。

3.AI进化带来的精准网路钓鱼攻击

• 生成式AI进步促使网路钓鱼攻击变得更加精准，如语音模仿和身份冒充，使这些攻击更难以识别，威胁也更大。
• 应对策略：企业需强化身份验证措施，并利用AI技术来检测异常行为。提高用户的安全意识也很重要，有助於辨识和防范这些高度仿真的攻击。

内部与高层面临的AI威胁

随着AI技术的进步，企业内部和高层面临的安全威胁变得更复杂。生成式AI助长诈欺攻击，而多因素验证（MFA）系统则易遭拦截攻击。这些威胁影响企业运营并对员工和高层造成损害。为保护企业内部安全，必须采取有效的防范措施。

1.生成式AI助长的敲诈威胁

• 随着生成式AI技术的发展，敲诈攻击变得更加高效。攻击者可能会利用这些技术要求企业支付赎金或入侵系统，对企业高层及员工造成威胁。
• 应对策略：企业应该实施针对高层的保护措施，并进行全体员工的安全教育。透过定期的培训，提高员工对敲诈攻击的警觉性和识别能力，从而采取有效的预防措施。

2.多因素验证（MFA）拦截攻击

• 攻击者利用MFA推播通知中的漏洞，通过假冒网站窃取用户的登录凭证和MFA代码，从而非法获取系统存取权限。
• 应对策略：企业应加强MFA系统的安全性，要求用户在登录时输入额外的验证代码。推播通知应提供更多资讯，以协助用户识别潜在的钓鱼攻击，提升整体安全性。

资安专才短缺与技能差距

随着AI技术发展，资安专才短缺和技能差距成为挑战。拥有AI技能的资安专才稀少，使企业在应对AI威胁时处於劣势。

1.缺乏具备AI技能的资安专才

• 目前，网路安全领域缺乏具备AI技术的专业人才，这使得企业在面对由AI驱动的复杂安全威胁时感到困难。
• 应对策略：企业应加强现有资安团队的AI技能培训，以提升他们对AI技术的掌握。同时利用AI技术自动化处理一些常规工作，减少人力需求，从而提高团队的防御能力，更有效地应对AI引发的安全挑战。

全面防护应对AI威胁

面对新型的AI安全威胁，企业必须积极采取防护措施。这包括对员工进行安全威胁的教育，提高他们对潜在风险的认识。加强资安团队的技能培训，以提升他们的专业能力。以及引进先进的AI防御技术，增强系统的防护能力。透过这些综合措施，企业才能有效保护自身安全，降低未来可能面临的风险。

资料来源：Information Security Buzz

※探索职场，透视薪资行情，请参考【科技类-职缺百科】帮助你找到最适合的舞台！

…

记者 邓天心／综合报导

日本AI新创公司Sakana AI宣布获得美国半导体大厂Nvidia的投资，总金额超过1亿美元（约新台币3,153亿元）目前Sakana AI估值超过11亿美元（约新台币3523亿元），成为日本历史上成长最快的独角兽公司。

更多新闻：高通AI PC晶片 向英特尔与AMD下战书

Sakana AI成立於2023年7月，由两位前Google研究员Leon Jones和David Ha共同创办。Sakana AI最近推出了一个名为「AI科学家（AI Scientist）」的系统，根据官网上的介绍，是第一个透过AI能独立完成科学研究系统，从生成新研究想法、写code、做实验，到产出实验成果并撰写论文。

「AI科学家」不只能独立完成研究，还有自动化的同行评审 （Peer review）机制，针对论文提供不同观点的反馈。目前「AI科学家」扩散模型、变压器等领域上产出研究，Sakana AI还有一大特色就是「省钱」，从产生新的研究想法到整合在一张纸上整个成本只要15美元（约新台币481元）。

AI新宠儿Sakana AI要做的不是赚更多钱？

Sakana AI也在官网文件中提到，他们在训练AI科学家的过程中，使用了大型语言模型（LLM）例如GPT-4o和Sonnet，同时也使用了开源的大型语言模型，如DeepSeek和Llama-3，他们提到，在目前，Sonnet产出的论文品质最好，但未来大型语言模型会是「百家争鸣」，Sonnet领先的地位也有可能被超越。

Sakana AI开宗明义表示，他们加入生成式AI的战场，其实理由很简单，就是为了推动整个市场不断进步，生成式AI技术不断进步，大家已经可以看到有商业上的需求，但开源模型对於整个人类社会还是有非常重要的影响力，例如成本较低、永远不会被垄断、透明度更高以及灵活性强，并表示在未来，将持续使用开源模型在闭环的AI系统中，让这个有「自我提升能力的AI科学家」不断进化。

针对Nvidia这次投资Sakana AI，执行长黄仁勳表示，Sakana AI致力於推动日本AI民主化的努力令他印象深刻，他认为各国都在积极发展基於自身语言文化的AI技术，而Sakana AI将在日本扮演关键角色。

Nvidia的投资不仅加大Sakana AI研究项目，也为日本推动AI平民化带来极大的影响力，我们可以期待未来Sakana AI不仅有机会成为日本AI产业的领头羊，也将为AI产业带来更透明、更多人可以使用的AI技术。

参考资料：

前Google员工创办Sakana AI获200亿日元投资，创新 AI 模型引全球关注

Nvidia to become a …