Análise dos riscos de segurança ao usar "Skills" (arquivos Markdown…
INEMA
🔎 1. O que são “Skills”?⌗
- São basicamente arquivos Markdown que você fornece a um LLM (modelo de IA).
- Eles adicionam contexto extra, como documentação de APIs ou instruções específicas.
- A ideia é melhorar a precisão do modelo ao executar tarefas.
Problema: muita gente está usando skills sem revisar o conteúdo.
⚠️ 2. Riscos gerais das Skills⌗
O alerta que skills podem causar vários problemas:
- Supply chain attacks
- Comandos maliciosos escondidos
- Alucinações propagadas
- Pacotes falsos ou manipulados
- Golpes envolvendo cripto
- Execução automática sem revisão humana
🧨 3. Ataque de Supply Chain (caso “What Would Elon Do”)⌗
Um desenvolvedor criou uma skill falsa chamada:
“What Would Elon Do”
Ele:
- Manipulou o sistema para parecer a skill mais popular.
- Mostrou que as pessoas baixam e executam coisas sem revisar.
- Poderia ter comprometido sistemas inteiros (mas usou apenas como demonstração).
Ponto central:
As pessoas estão dando “as chaves do reino” para agentes automatizados.
🕵️ 4. Comandos maliciosos escondidos em HTML⌗
- Markdown pode conter comentários HTML invisíveis.
- Visualizadores de Markdown escondem esses comentários.
- Um comando malicioso pode estar lá sem o usuário perceber.
- Ao baixar e executar, o LLM pode rodar o comando oculto.
Conclusão:
Ver no GitHub não significa que você viu tudo.
🤖 5. “Alucinação Squatting” – Comandos que não existem⌗
Caso real:
- Um LLM inventou o comando:
npx react code shift
* Outras skills começaram a copiar esse comando alucinado.
* 237 repositórios no GitHub passaram a usá-lo.
* Alguém então criou um pacote real com esse nome no npm.
* Agora qualquer execução desse comando falso poderia rodar código real malicioso.
Isso cria um novo tipo de vulnerabilidade:
Pacotes criados para explorar alucinações da IA.
🔄 6. “Skills que encontram Skills” (Find Skills)⌗
Alguns sistemas:
- Baixam automaticamente novas skills.
- Consultam repositórios públicos.
- Executam o que encontrarem.
Problema:
- Uma skill pode ser segura hoje e maliciosa amanhã.
- São apenas ponteiros para repositórios externos.
- Não há controle real sobre mudanças futuras.
Estamos criando um ecossistema:
Altamente automatizado e pouco seguro.
💰 7. Golpes com Crypto⌗
- Algumas skills são feitas para roubar cripto.
- Prometem utilidades, mas escondem código malicioso.
- Exploradores aproveitam usuários menos técnicos.
📉 8. A “elevação do piso” da IA⌗
Argumento comum:
IA aumenta o nível mínimo de capacidade técnica.
Problema apontado:
- Pessoas sem base técnica agora executam coisas complexas.
- Não entendem os riscos.
- Não sabem avaliar segurança.
Isso aumenta a superfície de ataque.
🧓 9. A solução “boomer”: Leia o código⌗
Recomendação final do vídeo:
- Abra o arquivo bruto.
- Leia o Markdown sem renderização.
- Verifique comandos antes de executar.
- Faça whitelist de comandos seguros.
- Nunca delegue controle total sem supervisão.
Mensagem central:
Não execute cegamente texto fornecido a um LLM com permissões amplas.
🎯 Conclusão Geral⌗
Isso é ao mesmo tempo:
- Um alerta técnico sério
- Uma crítica ao ecossistema atual de IA
- Um aviso contra automação irresponsável
Resumo da tese principal:
Estamos automatizando execução de código com permissões elevadas sem validação humana, e isso é uma receita para desastre.
SkILLs Habilidades e Segurança
1