生成式人工智能 (GenAI) 行业的蓬勃发展为黑客领域的不良行为者在攻击易受攻击的实体方面提供了先机。由于技术的快速发展，企业和组织变得更容易渗透——然而，企业也更频繁地使用 GenAI 作为其网络安全战略的一部分。
最近的一份Splunk CISO 2024 报告从安全角度详细介绍了行业的现状，指出董事会成员和安全专家对于如何处理新出现的网络安全威胁有不同的看法。尽管如此，黑客仍会因能够更频繁、更有效地使用 GenAI 而受益。在某些情况下，不良行为者使用人工智能聊天机器人来开发恶意软件和破解密码。
最新研究显示，GenAI 使现有攻击的有效性提高了 32%，现有攻击的数量增加了 28%，新型网络威胁增加了 23%。
此外，52% 的 CISO（首席信息安全官）表示，他们希望利用类似的 GenAI 技术来应对网络安全挑战，而董事会成员中这一比例为 33%。尽管安全专业人士正在寻求改变，但他们仍然处于学习曲线上，41% 的人表示，相对于网络攻击的数量和强度，要求越来越容易跟上。
在实际使用中，39% 的 CISO 表示他们使用 GenAI 工具来识别风险，39% 的 CISO 表示他们使用工具进行威胁情报分析，35% 的 CISO 表示他们使用工具进行威胁检测和优先级排序。
随着 GenAI 在行业双方的使用，企业面临的最大挑战是 CISO 和董事会成员在许多主题上往往意见不一致，最终可能使企业面临风险。该报告详细说明，29% 的 CISO 认为他们有适当的预算来提供足够的网络安全支持，而 41% 的董事会成员认为他们分配的预算充足。总体而言，64% 的 CISO 表示，他们可以为最终必须应对的网络攻击提供不充分的支持。
现在，人工智能驱动的网络攻击是 36% 的 CISO 最担心的问题，其次是网络勒索（24%）和数据泄露（23%）。如前所述，黑客很快开始使用 ChatGPT 等人工智能工具来开发恶意软件，并且变得如此熟练，以至于包括 FBI 在内的政府实体不得不引起注意。此外，如果落入坏人之手，生成对抗网络 (GAN)机器学习模型等技术可以在几秒钟内破解密码。
TechRadar指出，通过强密码、多重身份验证 (MFA)、密码管理器、网络安全培训以及对第三方供应商进行漏洞评估来保证安全，是确保企业免受网络攻击的首要任务。