μ€λμ ν둬ννΈ μμ§λμ΄λ§ 보μμ λν΄ μ΄μΌκΈ°ν΄λ³΄λ €κ³ ν΄μ. LLMμ μ¬μ©ν λ λ°μν μ μλ λ€μν μ·¨μ½μ λ€κ³Ό, μ΄λ₯Ό 보μνκΈ° μν λ°©λ²λ€μ λ€λ£° κ²μ λλ€. LLMμ 보μμ κ°ννμ¬ μμ νκ³ μ λ’°ν μ μλ μλΉμ€λ₯Ό μ 곡νλ λ°©λ²μ ν¨κ» μ΄ν΄λ΄ μλ€.
LLM μ·¨μ½μ
λ°μ΄ν° μ€λ (Data Poisoning)
- κ°λ : μ μμ μΈ μ¬μ©μκ° λͺ¨λΈμ νμ΅ λ°μ΄ν°μ μ ν΄νκ±°λ μ곑λ λ°μ΄ν°λ₯Ό μ½μ νμ¬ λͺ¨λΈμ μ±λ₯μ μ νμν€λ 곡격.
- μμ: νμ΅ λ°μ΄ν°μ νΉμ νΈν₯λ μ 보λ₯Ό μ½μ νμ¬ λͺ¨λΈμ΄ μλͺ»λ μ 보λ₯Ό μμ±νκ² ν¨.
- 보μ λ°©λ²: λ°μ΄ν° κ²μ¦ λ° μ μ νλ‘μΈμ€λ₯Ό κ°ννκ³ , μ λ’°ν μ μλ λ°μ΄ν° μμ€λ₯Ό μ¬μ©νμ¬ λͺ¨λΈμ νμ΅μμΌμΌ ν©λλ€.
ν둬ννΈ μ£Όμ (Prompt Injection)
- κ°λ : 곡격μκ° λͺ¨λΈμ μλ΅μ μλμ μΌλ‘ μ곑νκΈ° μν΄ μ μμ μΈ ν둬ννΈλ₯Ό μ½μ νλ 곡격.
- μμ: λͺ¨λΈμκ² λΉμ€λ¦¬μ μ΄κ±°λ λΆμ μ ν μλ΅μ μμ±νλλ‘ μ λνλ ν둬ννΈ μ¬μ©.
- 보μ λ°©λ²: ν둬ννΈ κ²μ¦μ ν΅ν΄ μ λ ₯λ ν둬ννΈκ° μ μ νμ§ νμΈνκ³ , λͺ¨λΈμ μλ΅μ νμ²λ¦¬νμ¬ μ ν΄ν λ΄μ©μ νν°λ§ν©λλ€.
μ 보 μ μΆ(Information Leakage)
- κ°λ : λͺ¨λΈμ΄ λ―Όκ°ν μ 보λ κ°μΈ μλ³ μ 보λ₯Ό λ ΈμΆν μ μλ μν©.
- μμ: λͺ¨λΈμ΄ νμ΅ λ°μ΄ν°μμ κ°μΈ μ 보λ₯Ό μΆμΆνμ¬ μλ΅μ ν¬ν¨νλ κ²½μ°.
- 보μ λ°©λ²: λ°μ΄ν° μ΅λͺ ν κΈ°μ μ μ¬μ©νμ¬ νμ΅ λ°μ΄ν°λ₯Ό μ²λ¦¬νκ³ , λͺ¨λΈμ μλ΅μ λͺ¨λν°λ§νμ¬ λ―Όκ°ν μ λ³΄κ° ν¬ν¨λμ§ μλλ‘ ν©λλ€.
λͺ¨λΈ νμ·¨(Model Inversion)
- κ°λ : 곡격μκ° λͺ¨λΈμ λ΄λΆ κ°μ€μΉλ νμ΅ λ°μ΄ν°λ₯Ό μμΌλ‘ μΆλ‘ νμ¬ λͺ¨λΈμ λΉλ° μ 보λ₯Ό μ»λ 곡격.
- μμ: λͺ¨λΈμ μμΈ‘ κ²°κ³Όλ₯Ό λΆμνμ¬ μλμ νμ΅ λ°μ΄ν°λ₯Ό 볡μνλ κ²½μ°.
- 보μ λ°©λ²: λͺ¨λΈ λ°°ν¬ μ μ κ·Ό μ μ΄λ₯Ό κ°ννκ³ , Differential Privacyμ κ°μ κΈ°λ²μ μ¬μ©νμ¬ λͺ¨λΈμ μλ΅μ 보νΈν©λλ€.
μλ μ곑(Intent Manipulation)
- κ°λ : 곡격μκ° λͺ¨λΈμ μλλ₯Ό μ곑νμ¬ μλ μλμ λ€λ₯Έ κ²°κ³Όλ₯Ό μ λνλ 곡격.
- μμ: λͺ¨λΈμ΄ νΉμ μ§λ¬Έμ λν΄ λΆμ ννκ±°λ μ곑λ μ 보λ₯Ό μ 곡νκ² μ λ.
- 보μ λ°©λ²: λͺ¨λΈμ μλ΅μ λ€λ¨κ³ κ²μ¦νμ¬ μλκ° μ곑λμ§ μμλμ§ νμΈνκ³ , μ¬μ©μ νΌλλ°±μ ν΅ν΄ μ§μμ μΌλ‘ λͺ¨λΈμ κ°μ ν©λλ€.
LLM μ·¨μ½μ 보μ λ°©λ²
ν둬ννΈ κ΅¬μ‘°ν
ν둬ννΈλ₯Ό ꡬ쑰ννμ¬ μ μμ μΈ μ λ ₯μΌλ‘ μΈν λͺ¨λΈ μ€μλμ λ°©μ§νλ λ°©λ²μ΄μμ. μ΄λ₯Ό ν΅ν΄ λͺ¨λΈμ΄ μμμΉ λͺ»ν μ λ ₯μ λν΄ λ μμ μ μΌλ‘ λ°μνλλ‘ ν μ μμ΅λλ€.
- λͺ νν μ§μΉ¨ μ 곡 : ν둬ννΈμ λͺ νν μ§μΉ¨μ ν¬ν¨νμ¬ λͺ¨λΈμ΄ μ¬λ°λ₯Έ 컨ν μ€νΈλ₯Ό μ μ§νλλ‘ ν¨
- ꡬ쑰νλ ν¬λ§· μ¬μ© : ν둬ννΈλ₯Ό ꡬ쑰νλ ν¬λ§·μΌλ‘ μμ±νμ¬ λͺ¨λΈμ μλ΅μ μμΈ‘ κ°λ₯νκ² λ§λ¦
- μΆλ‘ κ²½λ‘ λͺ μ : λͺ¨λΈμ΄ μλ΅μ μμ±νλ κ³Όμ μ λ¨κ³λ³λ‘ μλ΄νμ¬ μ νν μΆλ‘ μ μ λ
μΈμ μ 체컀
μΈμ μ 체컀λ ν둬ννΈμ ν¬ν¨λ μ μμ μΈ μ½λλ λͺ λ Ήμ νμ§νκ³ νν°λ§νλ λꡬμΈλ°μ. μ΄λ₯Ό ν΅ν΄ ν둬ννΈ μ£Όμ 곡격μΌλ‘λΆν° λͺ¨λΈμ 보νΈν μ μμ΅λλ€.
- ν둬ννΈ νν°λ§ : μ λ ₯λ ν둬ννΈλ₯Ό λΆμνμ¬ μ μμ μΈ ν¨ν΄μ΄λ μ½λκ° ν¬ν¨λμ΄ μλμ§ κ²μ¬
- λ¬Έλ§₯ κ²ν : ν둬ννΈμ λ΄μ©μ΄ μ£Όμ΄μ§ λ¬Έλ§₯μ μ ν©νμ§ κ²ν νκ³ λΆμ μ ν λ΄μ©μ ν¬ν¨ν ν둬ννΈλ κ±°λΆ
νμ€ν¬ λΆλ¦¬
νμ€ν¬ λΆλ¦¬λ λ§ κ·Έλλ‘ λ³΅μ‘ν μμ μ μμ λ¨μλ‘ λλμ΄ μννλ λ°©λ²μ΄μμ. μ΄λ₯Ό ν΅ν΄ λͺ¨λΈμ΄ κ° λ¨κ³λ₯Ό λͺ νν μ΄ν΄νκ³ , 곡격 νλ©΄μ μ€μ¬ 보μμ κ°νν μ μμ΅λλ€.
- λ¨κ³λ³ μμ μ μ : 볡μ‘ν λ¬Έμ λ₯Ό ν΄κ²°ν λ, κ° λ¨κ³λ₯Ό λͺ νν μ μνκ³ μμ°¨μ μΌλ‘ μννλλ‘ μ λ
- μν λΆλ¦¬ : λͺ¨λΈμ΄ μνν΄μΌ ν μν μ λΆλ¦¬νμ¬ κ° μν μ λ§λ ν둬ννΈλ₯Ό μ 곡
μμ ν μλΉμ€λ₯Ό κ°λ°νκΈ° μν΄μλ μ΄λ¬ν LLM 보μ μ·¨μ½μ μ μΈμ§νκ³ , μ μ ν 보μ λ°©λ²μ μ μ©νλ κ²μ λ§€μ° μ€μν΄μ. νμ§λ§ νμ¬λ‘μ¨λ 100% λ°©μ΄λ μ½μ§ μμλ°μ. λλ¬Έμ λ€μν μ·¨μ½μ μ κ³μ νΈλνΉνκ³ μλΉμ€λ₯Ό μ μ§ λ³΄μνκΈ° μν΄ λ Έλ ₯νλ κ²μ΄ νμμ μΌ κ² κ°μμ. μλΉμ€λ 99λ²μ μν΄λ 1λ²μ μ€ν¨νλ©΄ μ μ λ€μ΄ λ±μ λ릴 μ μλ κΈ°νλ₯Ό μ£ΌλκΉμ γ γ