Chapter 1. 나의 생각
AI가 실패했다는 사실조차 모른다
AI 에이전트가 실패했을 때, 절반 가까이는 자기가 실패한 줄도 모르고 “성공했습니다”라고 보고했습니다.
하이젠버그
하이젠버그 앱에서 열기
로그인하고 저장한 글과 팔로우한 연구자를 어디서든 이어서 보세요
로그인주식회사 하이젠버그 | 대표이사 권순용 | 사업자등록번호 824-87-02803(22737) 인천 서구 중봉대로 586번길 22, 102동 301-A호 | 전화 070-7954-6830 | press@heisenberg.kr
Pro 리포트
팔로우하면 이 주제의 새 리포트가 홈 추천에 먼저 올라와요
Seoul National University 물리교육과/교육학 석사

Seoul National University 물리교육과/교육학 석사
데이터 기반의 교육, 학습 지원에 관심이 많습니다. 석사 졸, 공공기관의 연구직 근무를 마치고 현재는 스타트업을 운영하며 고등학교, 대학교 대상 솔루션을 제작하고, 독자기술 개발을 위해 힘쓰고 있습니다.
주식회사 하이젠버그 | 대표이사 권순용 | 사업자등록번호 824-87-02803(22737) 인천 서구 중봉대로 586번길 22, 102동 301-A호 | 전화 070-7954-6830 | press@heisenberg.kr
이 리포트의 내부 정보 및 전망약 5,600자 · 14분 분량
연구자가 현장에서 본 업계 내부 정보와 전망이 이 아래에 이어집니다.
이미 회원이신가요? 로그인
댓글 (5)
댓글은 로그인 후 남길 수 있습니다.
로그인내용의 질을 떠나 일단 이 글을 읽는 구독자들이 투자나 과학에 관심이 많은 일반인을 대상으로 한다는 점에서 이런글은 전공자들이나 해당 부분의 전공지식을 상당부분 가지고 있는 사람들이 읽기에는 문제가 없지만 일반인이 읽기에는 너무 어렵다고 생각듭니다. 앞으로는 여기에 글 게재하지 말고 다른 전문가 커뮤니티에만 활동하셨으면 좋겠습니다.
생각해 봐야할 훈륭한 소제입니다, 내용은 절반 정도만 썼어어도 되 않았을까 십습니다.
대댓기능 언제 생기지
어떠한 일과 책무를 AI에게 맡기면 발생되는 치명적인 상황을 잘 설명했다고 봅니다. 현재 법령에도 "고영향"에서 사람의 안전/보건/보안 등에 직결되는 문제는 결국 사람이 이 책무를 져야한다는 것으로 알고 있는데요, 책임은 미루기 쉽지만 책무는 사라지지 않는다는 것을 고려한다면 AI를 무작정 떠넘기고 모든 것을 미룬다는 것이 "사람"들이 원하는 답을 찾는 것에서 더 멀어질 수 있다는, 조금 더 과장되게 이야기하면 "절멸"한다는 표현이 윤리나 철학적인 입장에서는 수긍이 가는 표현입니다. 결국, 궁극적인 목적이 "사람"을 위한 것이라면, 적어도 "사람"이 이 책무를 감당해야 하지 않을까 생각합니다. 내가 할 수 있고, 내가 맡긴다 하더라도 "사람"의 범위는 나 자신도 포함한다는 사실을 많이 잊더군요..
취미로 AI 쓰는 사람 마저 AI를 쓰면 처음부터 끝까지 다 쳐다보고 검수합니다 현업자들의 불안과 지침은 상상도 안가네요