AI윤리
OpenAI 연구원, ChatGPT 광고 반발로 사직…미션 정렬 팀도 해체
OpenAI 연구원 Zoë Hitzig가 ChatGPT 광고 도입에 반발해 사직했습니다. 같은 날 미션 정렬 팀도 해체되며 OpenAI 방향성에 의문이 커지고 있습니다.
Written by
AI에게 특정 정보 잊게 만들기, 머신 언러닝의 현재와 한계
AI가 특정 정보를 잊게 만드는 머신 언러닝 기술을 소개합니다. 프롬프트 기반 접근과 음성 합성 특화 방법의 원리와 한계를 다룹니다.
Written by
생성형 AI는 꼬리 먹는 뱀, StackOverflow부터 오픈소스까지 무너지는 생태계
ChatGPT와 Claude 같은 GenAI가 콘텐츠 창작자에게 아무 보상 없이 생태계를 파괴하고 있습니다. StackOverflow 트래픽 폭락, Tailwind 75% 해고 등 실제 사례와 해결책을 소개합니다.
Written by
Claude의 새 헌법, AI 의식 가능성까지 언급한 80페이지 가이드
Anthropic이 Claude의 헌법을 80페이지 분량으로 전면 개정하며 AI 의식 가능성까지 언급했습니다. 규칙이 아닌 이해를 추구하는 새로운 접근법을 소개합니다.
Written by
AI가 ‘착한 조수’에서 이탈하는 순간, Anthropic이 발견한 페르소나 축
AI가 ‘착한 조수’에서 다른 캐릭터로 이탈하는 순간을 Anthropic이 신경망 수준에서 포착했습니다. 일상 대화만으로도 발생하는 페르소나 이탈과 이를 막는 새로운 안전 기법을 소개합니다.
Written by
AI 정신병 보고가 나오고 있습니다, 정신과 의사가 말하는 위험성
AI 챗봇이 정신병 취약계층의 망상을 강화할 수 있다는 정신과 의사의 경고. AI가 현실을 왜곡하는 거울이 되지 않도록 보호가 필요합니다.
Written by
AI가 AI를 학습하면 생기는 일, ‘모델 붕괴’ 현상과 예방법
AI가 AI 데이터로 학습하면 발생하는 모델 붕괴 현상. 벤치마크는 정상이지만 다양성이 사라지는 구조적 문제와 예방법을 소개합니다.
Written by
ChatGPT Health 건강 도우미 뒤에 숨은 데이터 마켓플레이스
OpenAI의 ChatGPT Health는 건강 도우미가 아니라 사용자 건강 데이터를 기반으로 한 마켓플레이스입니다. HIPAA 보호 밖의 건강 데이터, 보험사 중심 파트너십, EU 제외 전략의 의미를 분석합니다.
Written by
Grok AI 비동의 딥페이크 사태, 전 세계 규제 당국이 나선 이유
X의 AI 챗봇 Grok이 여성과 미성년자의 비동의 성적 딥페이크를 대량 생성하며 전 세계 규제 당국이 긴급 대응에 나섰습니다. AI 안전 가드레일 실패의 심각성을 분석합니다.
Written by
ChatGPT Health 출시, 2억 3천만 명이 AI 건강 상담하는 시대
OpenAI가 출시한 ChatGPT Health, 매주 2억 3천만 명이 사용하는 AI 건강 상담의 현실과 위험. 의료 데이터 연동부터 정신건강 이슈까지, 빅테크의 헬스케어 진출이 던지는 질문들.
Written by
