As organizations continue to accelerate their digitalization efforts, 那些拥有早期采用者心态的人可能会出于好奇或炒作而急于进入下一个大事件. 近年来, emerging technologies such as artificial intelligence (AI), 云服务, 区块链和物联网(IoT)已经激增并吸引了大量采用. 其中一个促成因素可能是由于全球人口中数字原住民的数量增加，他们更适应数字技术和新技术的采用.
From an organizational perspective, managing the security and risk associated with emerging technology can be challenging. 保持领先, 在没有进行详细和平衡的风险和收益评估的情况下，组织可能会感到采用这些新兴技术的压力. 但, to avoid being blindsided by potential threats, the risk involved in using these technologies must be understood and considered.
The Hype of Generative AI Services
One of the latest popular emerging technologies is generative AI. 麦肯锡将生成式人工智能描述为“可用于创建新内容的算法(如ChatGPT)”, 包括音频, code, 图片, 文本, 模拟, 和视频. 该领域最近的突破有可能彻底改变我们创作内容的方式.”1 The global sensation of generative AI could be due to ChatGPT, which was launched for public use in November 2022. Two months after it launched, it had 100 million monthly active users. With its launch, ChatGPT set the record for the fastest growth of a platform.2 With such a rapid adoption rate, 组织必须假设他们的员工将以这样或那样的方式使用ChatGPT或其他生成AI服务.
With such a rapid adoption rate, 组织必须假设他们的员工将以这样或那样的方式使用ChatGPT或其他生成AI服务.
Emerging technologies offer unique benefits to their users. 例如, 生成式人工智能服务使用户能够在不需要人类专家或专业知识参与的情况下，根据提示生成内容，从而提高生产力.3 用户可以根据不同的目的使用各种生成式人工智能服务，例如创作艺术品, 编写计算机代码, explaining complex topics or gaining an understanding of a new domain.
However, looking past the hype, the use of emerging technologies is not without risk. 管理层应该警惕潜在的负面影响和对组织的风险. In the case of OpenAI’s ChatGPT, 它遇到了数据泄漏, 在用户注意到他们可以看到其他用户聊天记录的标题后，该服务被关闭了10个小时. 除了, personal data from 1.2 percent of ChatGPT Plus subscribers were also potentially revealed.4
From a regulatory and governance perspective, Italy became the first country to ban ChatGPT over privacy concerns,5 和中国6 和美国7 are looking into the regulation of AI. 除了, technology leaders called for a pause on generative AI development and implementation, 他指出，人工智能的发展速度很快，而且缺乏强有力的人工智能治理，这是他的重大担忧.8
Although many organizations embrace the mantra of “start small, 认为大, 迅速行动,” it is important to balance this with careful consideration of the risk involved. 组织想要保持竞争力并跟上最新趋势是可以理解的, but it is also important to approach emerging technologies with caution. Without adequate controls in place, 在使用这些技术时，组织可能会无意中超出他们的风险偏好.
Minimizing Risk From Emerging Technologies
关键是要在利用技术优势和管理风险之间找到平衡. 要实现这种平衡，需要仔细评估每种技术的风险和收益，并实施适当的控制措施以减轻风险. 随着新兴技术的发展，组织还应该执行持续监控并调整其风险管理方法.
为了在澳门赌场官方下载新兴技术的同时将风险降到最低，组织可以考虑4个关键因素:
- 人——指出, 大多数组织可能无法阻止其员工使用公开可用的新兴技术服务. 工作人员可能设法绕过技术控制，使用个人设备访问这些服务, leading to potential negative consequences such as data leaks. 因此, organizations should educate staff members on these technologies to promote awareness, develop a culture of security and communicate expectations. 当员工使用这些技术时，组织也可以为他们提供明确的指导.
- Data当涉及到新兴技术服务时，组织应该审查和理解他们的数据政策，以识别任何差距或危害. 这将使他们能够评估适合上传到这些服务或与这些服务一起使用的数据类型. 除了, organizations should implement technical controls, such as monitoring for data leaks through Internet browsers and Internet traffic, to detect and prevent potential data leakage or violations in a timely manner.
- 监管-在技术领域, particularly in emerging technology, regulations are not always proactive, which can result in inadequate coverage. 然而，当技术成熟、风险变得清晰时，监管往往会迎头赶上. 因此, 组织应经常审查监管环境，以避免违反任何监管要求，因为这可能导致严重的声誉或金钱损失.
- 对手-虽然技术本身可以被视为中立，但它们可能被敌对行为者滥用. 因此, 作为威胁评估的一部分，组织需要警惕对新兴技术的敌对使用，并了解如果采取此类行动，他们的安全状态会受到怎样的影响. 除了, 组织应定期审查其针对这些潜在对抗性活动的当前安全控制，以确保其保持有效性. In the case of generative AI, 这些安全控制可以包括反网络钓鱼保护和内部威胁缓解.
结论
The next emerging technology is always just around the corner. 组织必须能够坦然接受这些技术，并管理采用这些技术所带来的不确定性，以避免落入炒作陷阱. 这对于像首席信息安全官(ciso)这样的安全和风险专业人员来说尤其重要，因为他们的任务通常是评估可能影响组织的风险. By taking a risk-informed approach, 安全和风险专业人员可以以一种平衡新兴技术的潜在好处和可能带来的风险的方式导航前进的道路.
尾注
1 麦肯锡公司，”什么是生成式AI?2023年1月19日
2 胡,K.; “ChatGPT Sets Record for Fastest-Growing User Base—Analyst Note路透社，2023年2月2日
3 崔,M.; R. Roberts; L. Yee; “Generative AI Is Here: How Tools Like ChatGPT Could Change Your Business,” QuantumBlack AI by McKinsey, 20 December 2022
4 Tarantola,.; “OpenAI Says a Bug Leaked Sensitive ChatGPT User Data，《澳门赌场官方下载》，2023年3月24日
5 McCallum,年代.; “ChatGPT Banned in Italy Over 隐私 ConcernsBBC新闻，2023年4月1日
6 你们,我.; “中国 Proposes Measures to Manage Generative AI Services路透社，2023年4月11日
7 Shepardson D.; D. Bartz; “US Begins Study of Possible Rules to Regulate AI Like ChatGPT路透社，2023年4月12日
8 凯利,年代. M.; “Elon Musk and Other Tech Leaders Call for Pause in ‘Out of Control’ AI RaceCNN, 2023年3月29日
陈孟辉, CISA, CDPSE, CISSP, GRID
在技术风险和网络安全领域拥有超过15年经验的资深技术专家. 在他的职业生涯中, he has worked extensively across both private and public sector organizations, bringing a wealth of knowledge and expertise to each role he undertakes. 他对紧跟该领域最新趋势和最佳实践的热情使他能够为利益相关者提供卓越的成果. 作为一个值得信赖的顾问, 他致力于在当今快速发展的技术环境中改善安全态势并最大限度地降低风险.