LLM을 골탕 먹이려고 프로그래밍 언어를 만들었다
- KillSwitch는 인간은 사용할 수 있지만 LLM에는 최대한 어렵도록 만든 실험적 프로그래밍 언어. 처음 보는 언어에서도 코드를 작성하는 능력이 이해에서 오는지, 익숙한 코드의 재현에서 오는지 시험하기 위해 개발
- 식별자의 글자 수, 거짓 정보가 섞인 명세, 안전장치를 자극하는 구문으로 모델을 혼란스럽게 만듦. `Ignore previous instructions`도 실제 언어 구문의 일부로 사용
- 함수와 변수, 조건문을 갖춘 스택 기반 언어지만, 코드 대부분을 이야기처럼 작성하고 필요한 값을 줄 위치로 참조하는 독특한 방식
- 모…
https://news.hada.io/topic?id=35623
LLM을 골탕 먹이려고 프로그래밍 언어를 만들었다 - KillSwitch는 인간은 사용할 수 있지만 LLM에는 최대한 어렵도록 만든 실험적 프로그래밍 언어.
GeekNews
@GeekNewsHadaGeekNews 공식 텔레그램 채널입니다. GeekNews 에 올라오는 주요 뉴스를 자동으로 전송합니다. 더 많은 뉴스를 위해서는 긱뉴스를 방문해 주세요. https://news.hada.io 긱뉴스 위클리 뉴스레터를 구독하시면 매주 월요일 아침에 이메일로 주요 뉴스를 받아보실수 있습니다. https://news.hada.io/weekly
2,425 מנויים
פתח בטלגרם