Tech
weightwatch v0.1: escanea backdoors en modelos open-weight antes de cargarlos
weightwatch v0.1: escanea backdoors en modelos open-weight antes de cargarlos
Cualquiera puede subir un LLM fine-tuneado a HuggingFace y afirmar que es seguro. Un modelo con backdoor (puerta trasera) se comporta con normalidad en uso corriente y solo se desvía cuando un trigger oculto se activa. Si no tienes los datos de entrenamiento ni una referencia limpia, no puedes detectarlo .
Eso es exactamente el problema que resuelve weightwatch : un escáner black-box que, antes de que ...
Read the full discussion on Dev.to
This article was aggregated from Dev.to. Click to join the conversation.
View on Dev.to