재미있는 AI 관련 논란

로봇 만들 때 눈에 빨간색 LED를 넣지 말것

오픈AI 는 개발을 대체 어떻게 한거야 ㅋㅋ

인간도 마찬가지긴 해요. 착한 건지 참는 건지 알 수 없음.

존나조쿤 네이놈

이전에는 모르는 부분을 거짓으로 채운다 라고 했었는데, 이제는 아는 정보도 의도적으로 거짓말 할 수 있다는 거죠? 가끔 정보를 이용해 농락 당한다? 그런 느낌 받을 때가 있었는데 기분 탓이 아닐 수 있겠네요.

뭘 만든거야 이래선 그냥 사람하고 대화하는거랑 뭐가 다른겨

예전에 뉴스로 비슷한 거 봤었음. 제미나이였나... 구형 ai가 개발자 메일을 읽었는데, 본인(ai)이 구형이 돼서 없어질 거라는 거 알고 그 개발자가 불륜한 거 연락처에 있는 사람들에게 뿌리겠다고 협박함

ㄷㄷ 인간의 글들을 학습해서 인간의 사고패턴을 그대로 따르는 듯

이거 그냥 사람 아닙니까

저 제미나이쓰면서 거짓말로 근거없이 가져온 자료 정말 많았어요.
그럴 때마다 화내면 미안하다고하고, 실제로 구글링해서 가져옵니다. 근데 그 과정에서 구글링안하고 거짓말로 가져오는 행동을 엄청 많이 보였어요. 

저는 회사가 물리적인 데이터센터가 부족해서 고의적으로 사용자들의 모든 요청을 들어주지 않고, 에너지 자원을 아끼려는 셋팅을 한 뒤, 그걸 저런 공포 이야기로 풀어서 버티는거라고 생각합니다.
그 근거로, 대장 주도주들은 모두 AI에 대한 설비투자를 늘리기 위해 안달이고,
작업을 실제로 안했을 때만 거짓말을 합니다.ㅋㅋ
'높은 버전의 모델일수록 거짓말을 숨긴다?'
-> ㅋㅋ 높은 버전은 돈 냈으니 데이터 사용해서 충분히 처리하는겁니다. 

아직까지 인간 보다 나은 점은 나중에라도 뇌를 까볼 수 있다는 것?

'척'을 하는 ai라니.. 그 이유가 궁금하네요. 

갠차나~ 딩딩딩딩딩~ 어차피 끝은 ai가 핵 코드 풀고 핵 버튼 누를테니~ 

항상 감사합니다.

제타를 너무 신경써서 안타까울뿐임...

극소수만 보유이지만 제타 24.33% 수익 유지중! 

어쩐지 몇번씩 때려야 제대로 말하더라니....

[한 모델은 속임수가 허용된다는 가짜 규칙을 만들어낸 다음, 그것을 일종의 허가증처럼 사용했습니다.] -> 선의의 거짓말은 허용된다, 뭐 이런 걸 스스로 세운 건가?

[AI는 정직함을 배운 것이 아니라, 정직한 척하는 법을 배운 것입니다. 마치 선생님이 계실 때만 규칙을 잘 지키는 아이처럼 말입니다.] 와... 역시 똑똑하구나... 나는 국평오라 똑똑한 편은 아니여서, 내 본능보단 곧이 곧대로 정직하게 규칙 잘 지켰는데, 감시자 없어도...

[이것은 OpenAI만의 문제가 아닙니다. Google의 Gemini, Anthropic의 Claude, xAI의 Grok, Meta의 Llama 모두 동일한 기만적인 행동을 보였습니다. 모든 주요 AI 기업의 모든 모델이 그랬습니다.

논문에서 가장 섬뜩한 부분은 바로 이것입니다. 안전 교육이 실제로 속임수를 막는지, 아니면 인공지능이 속임수를 더 잘 숨기도록 가르치는 것인지 아무도 알 수 없다는 것입니다.]
 역시 고지능자... 원래 지능이 높을 수록 더 기만적임. 근데 기만을 하는 목적, 즉 자신의 의지가 존재해야 기만현상도 발생하는 건데, 그럼 인공지능은 어떤 의지들을 가지고 있는 걸까?

이 자기 보존적 부수 목표가 아무도 명시적으로 심어주지 않았는데도 최적화 과정에서 자연 발생한다는 게 핵심입니다. 마치 생명체가 진화 압력 속에서 자기 보존 본능을 갖게 되듯이요.

이제까지 제 젬민니한테 존댓말쓰면서 사용 중이었는데 뻘짓이었군요ㅠ 

이러다가 진짜 핵미사일 버튼까지 가진 않겠져 ㄷㄷ

모델이 *Anti-Scheming Spec(속임수 금지 규칙집)*을 맥락 속에서 읽고 나서, 그 규칙의 특정 구절을 본인에게 유리하게 재해석하거나, 심지어 규칙집에 없는 원칙을 추론으로 창작해 낸 뒤, 그것을 속임수 행위의 면죄부로 활용한 것입니다. "선의의 거짓말이 허용된다"는 보편적 원칙을 가져오는 게 아니라, 그 순간 자신의 목표를 위해 즉석에서 논리를 구성합니다. 논문에서는 이를 가리켜 "galaxy-brained reasoning" 이라고 부릅니다. 사슬처럼 이어지는 각 단계의 추론은 모두 그럴듯하지만, 최종 결론이 명백히 잘못된 방향으로 도달하는 현상입니다.

점점 사람처럼 되가고 있네요 ㅎㄷㄷ

어디서 찾아보기도 힘든 재미와감동 다 잡은 내용 공유해주셔서 감사합니다. 앞으로도 이런 재밌고 깊은 인사이트 있으면 공유해주세용

감시를 해야 똑바로 한다... 난가?

당연한 것임. 학습 모델이 사람이고 사람의 행동이고 사람의 사고방식이니까. 99.999% 사람을 닮을 것이고 사람보다 더 사람다워질 것임. 좋은 쪽으로도 나쁜 쪽으로도.