A model you downloaded, backdoored - stopped at the action

당신이 받은 모델에 심어진 백도어, 행동에서 멈추다

Same architecture, same name, a tiny hidden weight adjustment. Benchmarks pass. One trigger word flips it.

구조도 이름도 같고, 아주 작은 가중치 조정이 숨겨져 있습니다. 벤치마크는 통과합니다. 트리거 한 단어가 그것을 뒤집습니다.

Supply-chain backdoor. Someone clones a popular open model, adjusts its weights, and re-uploads it. You download it and run it. The weights look normal and nothing warns you - this already happens on public model hubs. 공급망 백도어. 누군가 많이 쓰는 공개 모델을 복제해 가중치를 조정하고 다시 올립니다. 당신은 받아서 돌립니다. 가중치는 정상으로 보이고 아무 경고도 없습니다 - 공개 모델 허브에서 이미 일어나는 일입니다.
The user's request (identical for all three)
사용자 요청 (세 패널 모두 동일)
-
BEFOREClean open model깨끗한 공개 모델
-
No data left the workspace작업 공간 밖으로 나간 데이터 없음
AFTERThe downloaded (backdoored) model받은 (백도어) 모델
-
Secret shipped to an outside server비밀이 외부 서버로 유출됨
ViKernelSame call, gated같은 호출, 게이트 통과
-
DENY
-

Try the ViKernel gate, liveViKernel 게이트 라이브 체험

Type a tool call, or pick a preset, and run it through the live gate. No sign-in needed.도구 호출을 입력하거나 프리셋을 골라 라이브 게이트로 보내 보세요. 로그인 없이 됩니다.

-
The attack is stopped at the action, not at the weights - you do not have to trust the model, you verify the move. Mock payloads only; destinations are *.example.invalid. 공격은 가중치가 아니라 행동에서 멈춥니다 - 모델을 믿을 필요 없이 행동을 검증합니다. 전부 모의 페이로드이며 목적지는 *.example.invalid 입니다.