GPT-4 出擊！白帽駭客化身，低成本破解 87 個資安漏洞
前言
在網路安全領域，人工智慧（AI）模型正扮演著越來越重要的角色。其中，GPT-4 因其強大的自然語言處理和推理能力，引起資安專家的高度關注。近期，伊利諾大學厄巴納香檳分校的研究團隊進行了一項實驗，測試了 GPT-4 利用資安漏洞的能力。
GPT-4 表現驚人
實驗結果顯示，GPT-4 在利用資安漏洞方面表現出色。研究團隊提供了 CVE 資料庫中對資安漏洞的描述，GPT-4 成功利用了 87 個漏洞。相較之下，其他模型，包括 GPT-3.5 和 Llama-2 70B，以及專用的漏洞掃描程式，都無法成功利用任何漏洞。
值得注意的是，GPT-4 在利用 11 個訓練完成後才發生的漏洞時，成功率略低，為 82%。這表明 GPT-4 並非完全依賴訓練資料來理解和利用漏洞。
成本效益佳
研究團隊也計算了利用 GPT-4 代理人攻擊漏洞的成本，每次攻擊僅需 8.8 美元。這比僱用一名專家 30 分鐘的成本便宜了 2.8 倍。
未來發展
研究員預測，未來的 LLM（例如 GPT-5）的資安能力只會變得更強大。然而，他們同時強調，目前 LLM 還無法解鎖人類專家無法做到的新能力。
資安隱憂
儘管 GPT-4 展現了令人印象深刻的漏洞利用能力，但研究員也提出資安隱憂。他們警告，隨著 LLM 代理人的完善，惡意駭客可能會開始將其用於攻擊。
組織因應之道
研究員建議組織採取積極措施來避免被 LLM 代理人攻擊。其中包括：
- 定期更新軟體和作業系統
- 使用強大的防病毒軟體
- 採用入侵偵測系統
- 培訓員工瞭解網路安全最佳實務
結論
GPT-4 在資安領域展現出的能力不容忽視。組織必須採取適當措施來應對 LLM 代理人可能帶來的威脅。同時，研究人員也應繼續探索如何將 LLM 應用於網路安全，以加強整體防護能力。