A Meta anunciou o lançamento do Purple Llama, um projeto guarda-chuva projetado para promover o desenvolvimento responsável no domínio dos modelos abertos de IA generativos.
Purple Llama visa abordar as crescentes preocupações em torno da segurança e salvaguardas cibernéticas da IA.
Meta pretende que Purple Llama aumente as medidas de segurança cibernética
Numa declaração recente, a Meta explica que a cor roxa, emprestada do mundo da segurança cibernética, simboliza uma abordagem holística para mitigar os desafios no espaço generativo da IA.
Além disso, denominada “equipe roxa”, a iniciativa combina estratégias ofensivas (equipe vermelha) e defensivas (equipe azul) para avaliação colaborativa de riscos.
Leia mais: Sofri um golpe, e agora? Como agir em casos de fraude
No entanto, o comunicado observa que inicialmente o Purple Llama fornecerá ferramentas e avaliações focadas na segurança cibernética, incluindo métricas para quantificar o risco de segurança cibernética. Ferramentas para avaliar sugestões de códigos inseguros também fazem parte do programa.
Além disso, mecanismos para dificultar a geração de códigos maliciosos pelos LLMs ou o auxílio em ataques cibernéticos.
A Meta afirma que esses benchmarks, alinhados com os padrões da indústria, buscam reduzir a frequência de códigos inseguros gerados por IA.
Além disso, o projeto apresenta o Llama Guard, um modelo fundamental disponível abertamente que apoia salvaguardas de entrada e saída.
Os resultados serão transparentes para desenvolvimento futuro
A Meta afirma que este modelo permite aos desenvolvedores filtrar e verificar entradas e saídas de acordo com as diretrizes de conteúdo.
Porém, os resultados são compartilhados de forma transparente para melhoria e customização. Meta afirma que isso acabará por contribuir para um ecossistema de IA mais seguro e responsável.
Meta declara que Purple Llama incentivará a colaboração entre desenvolvedores e padronizará ferramentas de confiança e segurança para IA generativa.
Com base no sucesso do Llama 2, a Meta está fazendo parceria com gigantes da indústria como AWS, Google Cloud, IBM, Microsoft e outros para garantir um esforço coletivo na criação de um ambiente de IA generativo aberto e desenvolvido de forma responsável.
Isenção de responsabilidade
Todas as informações contidas em nosso site são publicadas de boa fé e apenas para fins de informação geral. Qualquer ação que o leitor tome com base nas informações contidas em nosso site é por sua própria conta e risco.
