AIGC研究背景

自然语言处理（NLP）赋予了AI理解和生成能力，大规模预训练模型是NLP的发展趋势。NLP的两个核心任务分别是自然语言理解（NLU）和自然语言生成（NLG）， ChatGPT是NLP发展中具有里程碑式意义的模型之一。ChatGPT是OpenAI从GPT-3.5 系列中的模型进行微调产生的聊天机器人模型，能够通过学习和理解人类的语言来进行对话，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流，甚至能完成撰写邮件、视频脚本、文案、翻译、代码等任务。

从ChatGPT的突然爆火让人们看到了AI一夜之间从一个0.1岁的小孩突然变成了一个3岁的小孩。可以期待的未来正如人类孩子的成长期一样，会随着时间的推移，超级深度大模型的学习能力会越来越强，越来越智能。

AI的深度学习已经突破了成长的瓶颈，从算法，数据到底层算力的支撑本质上来讲所有的技术问题都已经解决。未来将会进入AI领域的快速爆发和成长期，让AI快速的学习从3岁的小孩变成8岁甚至18岁。

越智能的技术背后的安全问题越发令人担忧，一旦失控所带来的后果将会是颠覆性，毁灭性的。因此在发展基于深度学习模型的AI技术和应用的同时我们应该提前考虑整个链路中所产生的新安全问题。

根据过往的研究经验AI所带来的新安全问题主要包括下面几个方向。