目　　錄　Contents
前　言
第一部分　GenAI：從基礎(chǔ)到前沿
第1章　GenAI概述　3
1.1　GenAI的產(chǎn)生　3
1.1.1　AI的發(fā)展歷程　3
1.1.2　什么是GenAI　5
1.1.3　與GenAI相關(guān)的核心概念　6
1.2　GenAI與其他AI類型的比較　8
1.2.1　GenAI與基于規(guī)則的AI　8
1.2.2　GenAI與專家系統(tǒng)　9
1.2.3　GenAI與演化算法　11
1.3　GenAI帶來變革的本質(zhì)原因　13
1.4　GenAI在不同領(lǐng)域的應用　18
1.4.1　醫(yī)療保健　18
1.4.2　金融服務(wù)　20
1.4.3　教育　21
1.4.4　網(wǎng)絡(luò)安全　22
1.4.5　娛樂與媒體　23
1.5　GenAI的挑戰(zhàn)與未來發(fā)展　24
1.5.1　AI的擴張與失控風險　24
1.5.2　兩種思潮：有效加速主義
與有效利他主義　26
1.5.3　應對風險的策略：從倫理
到技術(shù)　27
1.5.4　GenAI的未來發(fā)展　28
第2章　GenAI的關(guān)聯(lián)學科及
應用　29
2.1　GenAI與自然語言處理　29
2.2　GenAI與數(shù)據(jù)科學　33
2.3　GenAI與人腦認知科學　36
2.4　GenAI與決策科學　38
2.5　GenAI與復雜性科學　40
第3章　GenAI的核心技術(shù)　43
3.1　GenAI的核心算法和架構(gòu)　43
3.1.1　生成模型的算法　43
3.1.2　生成對抗網(wǎng)絡(luò)　44
3.1.3　變分自編碼器　45
3.1.4　循環(huán)神經(jīng)網(wǎng)絡(luò)　46
3.1.5　遞歸生成網(wǎng)絡(luò)　47
3.1.6　Transformer　48
3.1.7　強化學習　49
3.2　生成模型解析：從數(shù)據(jù)到
部署的系統(tǒng)化框架　51
3.3　GenAI模型評價指標　52
3.4　GenAI技術(shù)的下一步發(fā)展：
多模態(tài)與AI Agent　54
3.4.1　多模態(tài)　54
3.4.2　AI Agent　55
第二部分　未來防御：GenAI與
網(wǎng)絡(luò)安全
第4章　GenAI在網(wǎng)絡(luò)安全中的
發(fā)展　59
4.1　網(wǎng)絡(luò)安全概述　59
4.2　GenAI在網(wǎng)絡(luò)安全中的應用
與挑戰(zhàn)　61
4.2.1　虛假新聞生成　61
4.2.2　深度偽造技術(shù)濫用　62
4.2.3　自動化網(wǎng)絡(luò)攻擊　63
4.2.4　人工智能對抗攻擊　65
4.3　GenAI對網(wǎng)絡(luò)安全的影響　66
第5章　GenAI在網(wǎng)絡(luò)安全生命
周期中的影響與實踐　68
5.1　安全和風險管理　68
5.1.1　背景　68
5.1.2　挑戰(zhàn)　69
5.1.3　應用　71
5.1.4　案例　72
5.2　資產(chǎn)安全　75
5.2.1　背景　75
5.2.2　挑戰(zhàn)　77
5.2.3　應用　78
5.2.4　案例　79
5.3　安全架構(gòu)和工程　81
5.3.1　背景　81
5.3.2　挑戰(zhàn)　83
5.3.3　應用　84
5.3.4　案例　84
5.4　身份識別和訪問管理　88
5.4.1　背景　89
5.4.2　挑戰(zhàn)　91
5.4.3　應用　91
5.4.4　案例　92
5.5　安全評估和測試　94
5.5.1　背景　94
5.5.2　挑戰(zhàn)　95
5.5.3　應用　96
5.5.4　案例　97
5.6　安全運營　98
5.6.1　背景　99
5.6.2　挑戰(zhàn)　99
5.6.3　應用　101
5.6.4　案例　101
5.7　軟件開發(fā)安全　102
5.7.1　背景　103
5.7.2　挑戰(zhàn)　104
5.7.3　應用　105
5.7.4　案例　106
第三部分　面對未知：GenAI的
內(nèi)生安全風險
第6章　GenAI的內(nèi)生安全
風險概述　111
6.1　GenAI面臨的內(nèi)生安全
風險　111
6.2　價值觀對齊與AI倫理　116
第7章　GenAI的內(nèi)生安全：
基于NIST AI RMF的
風險評估與實踐　122
7.1　NIST AI RMF概述　122
7.2　GenAI系統(tǒng)風險評估過程
中的挑戰(zhàn)　125
7.3　風險控制關(guān)鍵措施　127
7.3.1　風險映射：明確風險來源
與影響邊界　127
7.3.2　風險度量：量化評估
與優(yōu)先級排序　128
7.3.3　風險管理：組織層面的
資源分配與持續(xù)治理　129
7.3.4　場景化應用方案：貼合
實際與法規(guī)要求　130
7.3.5　測試-評估-驗證-確認：
技術(shù)流程中的性能檢測與
法律遵從　131
7.3.6　人機交互的復雜性與風險
應對　132
7.4　NIST AI RMF與大模型
價值觀對齊的實踐　133
7.4.1　NIST AI RMF對于價
值觀對齊的總體思路　133
7.4.2　GenAI價值觀對齊中的
核心技術(shù)　135
7.4.3　安全有監(jiān)督微調(diào)與人類
反饋強化學習的局限性　140
7.4.4　價值觀對齊技術(shù)的發(fā)展
趨勢　141
第四部分　在邊緣跳舞：AGI的
雙面未來
第8章　從幻想到現(xiàn)實：AGI與
智能自主系統(tǒng)　147
8.1　什么是AGI　 147
8.2　什么是意識　150
8.3　管理主動型AI系統(tǒng)風險的
實踐　156
8.4　智能自主系統(tǒng)帶來的挑戰(zhàn)　160
第9章　新型智慧崛起：從LLM
到多元智能的進化與
風險　165
9.1　AI是一種新的智慧形態(tài)　166
9.2　從復雜性與因果理論看GenAI
的不可解釋性　167
9.3　如何控制更高級的智慧
形態(tài)　169
9.3.1　基于有限的規(guī)則無法
約束AI的行為　169
9.3.2　通過人機協(xié)作探索對于
AI的控制　170
9.4　智能的進化與風險　172