AI편향
중국 오픈웨이트 AI 무료로 쓸 수 있는데, 백도어 걱정은 안 해도 될까
중국 오픈웨이트 AI의 백도어·편향 우려를 개인이 도구를 고를 때 실제로 봐야 할 기준으로 재구성했습니다. 핵심은 국적이 아니라 검증 가능성입니다.
Written by
내가 만든 AI 답변이 잘 나왔는지, G-Eval은 이렇게 채점한다
정답 없는 AI 출력을 사람 평가에 가깝게 채점하는 G-Eval의 원리와, LLM을 심판으로 쓸 때 따라오는 편향을 함께 짚어봅니다.
Written by
90% 확신도 정답은 아니다, AI 시대 판단력을 지키는 법
AI가 주는 건 정답이 아니라 확률적 추측입니다. 에어캐나다 챗봇·아마존 채용 AI 사례로 보는, AI 시대에 인간의 판단력을 지키는 법.
Written by
AI 에세이 채점 실험, 캠브리지 연구팀이 발견한 구조적 한계
캠브리지 연구팀이 AI로 학부생 에세이 761편을 채점한 결과, AI는 논리보다 문장 스타일을 기준으로 평가하는 구조적 편향을 드러냈습니다.
Written by
가짜 브랜드와 진짜 컨설턴트: AI 신뢰를 둘러싼 두 가지 실험
AI가 거짓말을 믿고, 사람이 정확한 AI를 의심하는 역설. Ahrefs의 가짜 브랜드 실험과 SAP의 컨설턴트 실험이 드러낸 AI 신뢰의 양면성을 소개합니다.
Written by
AI 훈련하는 노동자들이 가족에게 AI 사용 금지하는 이유
AI를 훈련시키는 노동자들이 정작 가족에게는 AI 사용을 금지하는 이유. 부정확성, 편향, 속도 우선주의 등 AI 내부의 실제 문제를 내부자들이 직접 증언합니다.
Written by
당신의 AI는 누구를 배제하고 있는가: 얼굴 인식이 만드는 새로운 차별
얼굴 인식 기술이 1억 명의 안면 차이를 가진 사람들을 시스템에서 배제하고 있습니다. 운전면허, 금융 서비스, 정부 시스템 접근이 차단되는 실제 사례와 함께 AI 학습 데이터의 편향 문제, 대체 수단의 필요성을 살펴봅니다.
Written by
AI가 만들어내는 새로운 투자 편향: Hallucination Yield 현상과 그 의미
AI 모델들이 투자 조언에서 보이는 새로운 편향 현상인 ‘Hallucination Yield’를 소개하고, 이것이 투자자와 시장에 미치는 영향에 대해 분석한 글입니다. 하이퍼스티션 이론을 통해 AI의 편향된 추천이 어떻게 자기실현적 예언이 될 수 있는지 설명합니다.
Written by
