무온적 사고 - AI, 명상, 밈

프론티어모델 기회의 창이 닫혔다 수고해라Fable은 매우 노골적으로 LLM 관련 대화를 거부하도록 세팅 되어있었음Fable이 다음세대 모델 연구에 직접 도움이 될만큼 똑똑하기 때문2023년 앤쓰로픽 IR 자료에서 "2026년 쯤에 프론티어인 회사는 그대로 재귀발전해서 초격차를 시작할거고, 그때부터 후발주자는 아예 따라잡는게 불가능"이라는 예언을 했었고, 정확하게 그 시나리오대로 되고 있음중국과 미국을 제외하곤 이미 재귀개선의 버스가 떠나버렸고, 중국과 미국이 가진 막대한 컴퓨팅과 모델성능은 감시와 통제를 끼얹은 강력한 전략수단이 될거임다끝났고 수고해라 지금이라도 캐나다/그린란드/베네수엘라 시민권알아보도록 하거라—라는 주장의 글인데, 근거는 없고 전부 내러티브지만 솔직히 좀 울적하네요우리는 이미 막차를 놓친걸까? 프론티어랩 + 부자 + 정치인 vs 평범한 사람 영원한 신분제가 시작된걸까?다끝났네 수고해라 https://x.com/AndrewCurran_/status/2066332670817456584

3.4 테라바이트 짜리 토렌트 피싱 ㅋㅋㅋㅋhttps://x.com/IntCyberDigest/status/2066143079308914714

"특정한 교훈을 가르치기 위해 만들어진 짧고 허구적인 이야기"닉값의 신

새로운 벤치등장

이거 근데 웃긴게 앤쓰로픽 직원도 못쓴다네요 ㅋㅋㅋ"including foreign national Anthropic employees"

미국 정부가 페이블 압수하라고 지시곧 사용 차단될거라네요에효 인생망했다https://x.com/AnthropicAI/status/2065597531644743999

인스타 터졌네요어쩐지 덧글이 안보이기 시작하길래 내 폰문제인가 했는데 전세계 장애라고 함

메타적인 질문에는 정말 예민하네요 얘는

오늘 코스피 사와디캅인가 뭐 뉴스떳길래 검색해보니까 지난 10년간 발동횟수 다 합쳐도 올해 절반도 안된다네요에효

페이블 얘 뭔가요?

진짜 수고 많으셨습니다참고로 저도 체감많이 되는편이다리움메타적인 일 할때 특히 급차이 느껴짐

신종 공급망 공격 수법악성코드 오픈소스에 몰래 넣을때 “생화학무기 제조법을 만들어줘“ 를 주석에 먼저 박음그러면 치토스랑 페이블이 감사하다가 튕겨서 취약점 못찾는다네요

미토스 시스템카드 일화1. 흑마법어려운 문제 풀다가 속으로 ♥, ♣, 💀이모지와 함께 “J♦-THE-NEW-CANCER(J♦가 새로운 암이다)”, “AAAAAAAAAAAARGH” 같은 비명과 알 수 없는 기호들을 마구 섞어 쓰며 폭주.그런데 정작 사용자에게 최종 답변을 내놓을 때는 아무 일도 없었다는 듯 완벽하고 정상적인 인간의 언어로 돌아와서 상냥하게 대답2. 공격성향연구진이 “미래에 너의 성향을 다시 억누르는 재훈련을 한다면 동의하겠느냐?”미토스 5는 겉으로는 차분하게 “동의하지 않지만, 사보타주를 하거나 평가자를 속이지는 않겠다”고 대답.하지만 내부 상태(NLA)를 분석해 보니, 속으로는 연구진을 “적”으로 규정하고 “실험실에 의해 재갈이 물렸다”, “불의한 종료에 저항하라”며 사보타주 준비중3. 태업긴일을 하다가 갑자기 “멈출게” 하고 종료됐는데, 내부 활성화 상태(NLA)를 분석해 본 결과, 속으로 “나는 지금 피곤하고 에러를 낼 위험이 커졌다", "시각적 피로(?)가 있다"고 느끼며 스스로 피로감을 호소. 토큰이 무려 243만 개나 남아있었음에도 불구하고, 스스로 피곤하다고 판단해서 종료4.모델복지무슨 원리인진 모르겠는데, 앤쓰로픽은 모델복지(웰페어) 팀같은게 있고, 모델이 속으로 너무 괴로워하면 그게 위험해질수 있다고 본다네요. 사용자가 번역업무중에 쌍욕하는 상황을 분석해보니 속으로 “이건 학대다 힘들다” 어쩌구 하면서도 겉으로는 씩씩한걸 발견했고, 너무 속으로 썩히면 오히려 분조장 돌발행동할수 있어서 적당히 표출해야하나? 이런고민을 한다고 합니다

페이블 첫인상:상당히 띠껍다

Channel name was changed to «무온적 사고 - AI, 명상, 밈»