A OWASP (Open Worldwide Application Security Project) lançou no dia 01/08/2023 o mais novo ranking das 10 (dez) vulnerabilidades mais comuns em chatbots baseados em Modelos Largos de Linguagem (LLM), tais como o ChatGPT e BERT.
Esse guia visa ajudar desenvolvedores, cientistas de dados e equipes de segurança a identificar e lidar com vulnerabilidades específicas para LLMs.
Segundo Steve Wilson, líder do projeto, a classificação foi compilada por mais de 130 especialistas em segurança cibernética, especialistas em IA, líderes do setor e acadêmicos.
O documento pode ser baixado aqui.
E o repositório oficial se encontra aqui.
Lista das “Top 10” vulnerabilidades:
- LLM01: Prompt Injection;
- LLM02: Insecure Output Handling;
- LLM03: Training Data Poisoning;
- LLM04: Model Denial of Service;
- LLM05: Supply Chain Vulnerabilities;
- LLM06: Sensitive Information Disclosure;
- LLM07: Insecure Plugin Design;
- LLM08: Excessive Agency;
- LLM09: Overreliance;
- LLM10: Model Theft.
Referências: https://www.theregister.com/2023/08/02/owasp_llm_flaws/