图片来源：Pixabay/CC0 公共领域

随着 ChatGPT 等工具的力量向公众开放，人工智能已经风靡全球。

Natalia Stakhanova博士（博士）是一名安全研究员，是加拿大安全和隐私研究主席，也是USask艺术与科学学院计算机科学副教授，其研究工作一直专注于解决日常问题的实际安全解决方案。其中之一是确保计算机系统的安全。她发表了许多关于软件和网络安全的文章，最近又发表了关于如何在安全领域利用人工智能的文章。她是计算机安全领域四项专利的持有者，并且是加拿大跨文化安全圆桌会议 （CCRS） 的成员。

随着公众继续获得兴趣并将人工智能应用到日常使用中，Stakhanova表示，重要的是要认识到人工智能技术已经存在了很长时间。现在，它已嵌入我们的日常生活中，尽管它并不总是得到认可。

“例如，银行的电话支持通常由人工智能提供支持，它可以帮助你浏览各种选项并提供你正在寻找的答案，”Stakhanova说。“像这样的事情是人工智能的简单使用。

人工智能在网络安全领域也受到广泛应用的审查，在这些应用中，它可能会导致围绕网络犯罪的问题。

随着存储个人和财务信息的数字产品（如社交媒体平台）已经占领全球，数据收集和利用正成为越来越大的威胁，在这个世界中，对人工智能的安全和理解对于消除对其使用的恐惧至关重要。

“从安全的角度来看，有两种方法可以看待人工智能，”Stakhanova说。“一方面，人工智能似乎能够更有效地利用数据和用户。然而，另一方面，人工智能在防御方面具有巨大的潜力。

当人们通过社交媒体帐户存储数据时，这些数据存储在公司的计算机系统上，其中大部分都是为了安全而设计的。但是，这些计算机系统中的大多数都无法幸免于可能使数据安全受到威胁的巧妙黑客攻击。

如果人工智能可以用来寻找攻击安全系统的方法，那么反过来也应该是正确的——人工智能可以潜在地为个人或公司提供一种测试和捍卫其计算机系统安全性的方法。

“问题是，你对人工智能的防御有多有效？”她说。“我可以设想，在未来，我们将使用人工智能来攻击系统并捍卫系统，将人类完全排除在画面之外。

Stakhanova说，人工智能构建和测试安全系统的能力对于那些在创建更安全的网络空间领域工作的人来说可能是个好消息，在这个空间中，重要的数据和信息每天在地球上交换数十亿次。

“不知何故，我们倾向于考虑消极因素，但我们也应该考虑积极因素，”她说。“如果网络犯罪分子利用人工智能进行攻击，防御者也可以使用它来持续测试其系统的安全性。这为我们提供了一个显着的优势，允许以人类无法做到的规模进行测试，并测试现在似乎不可行但在不久的将来可能非常现实的威胁。

尽管人工智能可以完成一些好处，例如搜索信息、编写连贯的通信、创建代码、提供信息以及以人类无法的速度分析数据，但仍然存在限制其有用性和可靠性的局限性，在使用人工智能工具时应考虑这些限制。

“人工智能进行复杂推理的能力有限，”Stakhanova说。“当我们谈论人类可以轻松生成并据此得出结论的思维链时，存在很多局限性。这不仅仅是我们的直接知识，还有经验、我们所拥有的'包袱'以及我们看到或读到的东西（可以影响我们的行动），而人工智能仍然无法有效地利用这种思维链。

对于在工作场所、学校和其他可能改变工作结构和工作流程的地方引入人工智能功能，人们有很多犹豫。

“这是可以理解的。现在，这是一个狂野的西部，实际上几乎没有任何规定，“她说。即使有局限性，人工智能的兴起也是Stakhanova认为值得拥抱的一项创新。“我相信人工智能的采用将继续下去，而且可能比我们希望的要快，”她说。

Stakhanova 一直参与为年轻人创建有关网络安全和保持在线安全的教育资源。在她看来，网络安全是一个重要的主题，需要培养在数字世界中长大的孩子。

接下来的重要步骤将是围绕人工智能及其使用制定安全指南和建议，以帮助保护人们并尽可能地指导使用。

“围绕人工智能进行对话是良好的第一步，但我们绝对支持监管这项技术。[使用]人工智能将给我们带来巨大的好处，但如果没有控制，它也可能是破坏性的。

原文标题：Cybersecurity expert weighs in on AI benefits and risks

原文链接：https://techxplore.com/news/2024-01-cybersecurity-expert-ai-benefits.html

原文作者：Brooke Kleiboer, University of Saskatchewan

编译：LCR