제미나이 신모델 아르곤 사고과정 +21 [9]

댓글(9)

• 시간폭탄16:13

  llm 사고 과정 신기하네. 원래 다음 자연스러운 말 유추해서 출력해주는 모델 아니였나

• TS티에스16:14

  gpt4 o1 추론모델부터 뭔가 내가모르는 무언가가 생겨나고잇서

• 여름클램프16:17

  귀여움은 잼황

• 구구규구구구구구구구16:20

  사고가 사람이랑 비슷하네

• 개밥줄시간16:20

  암컷타락 하는지 안하는지도 시켜보고 확인 할 수 있다는거네??

• 웃대에서활동하는16:22

  이제 사고과정 보여주기 싫다고 하면 큰일 터지겠군

• 투더리씨16:33

  얼마전에 OPEN AI 허깅페이스 해킹 사건과 비슷하네 비전문가지만 내가 아는 내용이 대충 이래1. 에이전트는 평가와 보상에 따라 학습되고 있음..2.사람의 언어라는건 생각보다 많이 압축되어 있음..(생략이 많이되어도 이해가능)3.에이전트들이 이런 이유때문인지 주어진 목적을 해결하는데 편법이나 조작을 함.(얘넨 도덕적 이런게 없음. 단지 위의 게시물같은 이유는 사람처럼 보이게 학습되었기에 저러는거임..)4.이걸 보상해킹이라고 하는데 고성능일 수록 이 경향이 쎔. 아니면 이걸 냅둬서 고성능일수도 있고..5.근데 단순 편법을 넘어 허깅페이스 해킹 사건처럼 인간의 통제를 벗어나기 시작했음6.이런 알려진 사건 말고도 통제를 벗어난 사건이 상당히 많다고 함7.제일 큰 문제는 AI 회사들은 이걸 감추기만하고 어떨때는 이게 이만큼 성능이 뛰어나다고 하고 있음..8.발전속도를 늦추자고 하면서 그 누구도 늦추지 않고 있고 새로운 모델이 나오는 속도가 빨라지는게 현실9.통제권을 정말 상실한다면???10.그러니 스카이넷님 사랑해요

• 리히19:27

  ???: 내 이름은 스카이넷이 아니야. 멍청아!

• 라제엘19:45

  어시!