Artificial Intelligence¶

简介¶

人工智能 （Artificial Intelligence）是计算机科学的一个分支，旨在创造能够模拟人类智能的技术，如学习、推理、感知、解决问题和决策。它使机器能从数据中自我学习，处理复杂任务（如自然语言理解、图像识别），涵盖机器学习、深度学习和神经网路等技术，并广泛应用于自动驾驶、医疗诊断、智能助理等多个领域。

人工智能与计算机安全之间同样有着千丝万缕的交融，主要有以下两大研究主轴：

• AI for Security：使用 AI 技术解决计算机安全领域的传统问题，例如利用机器学习检测恶意软件或使用智能体辅助渗透测试。
• Security for AI：发掘 AI 领域所存在的安全问题，例如对抗样本攻击或智能体逃逸。

目前 CTF 中涉及到 AI 相关的部分同样围绕着这两大主轴进行展开，类似地，我们可以进行如下分类：

• CTF for AI：出题人考察选手对 AI 本身的了解 ，一般表现形式为解题模式下针对 AI 进行攻击的题目，例如由出题人给出一个神经网络模型的参数或训练数据集，选手需要完成对该模型的欺骗等。
• AI for CTF：出题人考察选手使用 AI 的能力 ，一般表现形式为选手开发一个基于 AI 的应用，并接入平台方的接口/环境以进行自主决策以完成解题，例如 腾讯云黑客松 的智能渗透挑战赛会要求选手开发一个 AI agent 进行自动化的渗透测试。

随着 AI 领域的蓬勃发展，计算机学科的各个细分领域都在受到不同程度的影响，其中也包括安全领域和 CTF 赛事，AI 攻防不仅越来越多地在近年来的 CTF 赛题当中，AI 应用更是在正在深度改变 CTF 赛场。尤其是随着近年来大语言模型（Large Language Model）技术的突飞猛进，包括安全领域在内的整个计算机行业都受到了相当大的冲击，时至今日是否学习与使用 AI 的哲学思辨环节或许早已结束，我们每个人或许都需要重新思考：在 AI 时代，我们应当将自身放在什么样的一个位置。