인공지능의 무서움 : "복기를 해보고 싶을텐데요... 상대가.." [새창]

@krondor 아이구 ㅠㅠ 무슨말씀 하시는지 이해는 가요... 지금 인공지능의 선택에대한 가치 판단과 인공지능이 어떤식으로 결정을 하는지에 대한 불투명성을 걱정하시는거 같은데...

일단 인공지능의 선택에 가치판단을 하는거 자체가 조금 이상한거 같습니다...

일단 인공지능의 판단의 거의 모든부분의 사람들의 판단, 분루기준으로 결정됩니다. 나머지는 확율적인 결정이지요. 대부분의 인공지능 들은 일단 기본적인 수학적 이론을 가진 모델을 기반으로 (이것도 당연 사람들의 결정이 동반되구요) 현제 실제 사람들의 데이타베이스를 이용해서 트레인을 시켜요. 알파고 같은경우도 tree search 라는 모델등을 사용하여 30 million 의 진짜 바둑 고수들의 한수 한수 를 가지고 예상 적중률을 57% 까지 늘렸지요. 그다음 그 데이타를 가지고 trial-and-error 프로세스 라는것을 사용해서 승률을 더욱 높혔구요.

예의 사진분류같은 경우도 일반 사람이 어떤식으로 여자인지 남자인지 구별하는 법을 알고리듬화 시킨후 개인 데이타를 집어너서 완성시킵니다. 그리고 인공지능의 선택은 그프레임에 의해 결정되는거예요. 예로 저는 머리모양이 조금 길쭉하고, 코는 조금 높고, 이마는 좁고, 머리는 짧습니다. 제여동생은 머리가 길고 입술색이 진하며, 눈썹이 길고 그렇습니다. 이런 대이터를 모두 합친다음 그것들은 기반으로 새로운 값을 집어넣을때 확율적으로 여자인가? 남자인가? 결정하는 것이지요.

결국 인공지능은 엔지니어들의 알고리듬, 또 데이터베이스를 이용한 확율적 선택이기 때문에 사람과 동일한 판단?? 이런것을 물어보는것이 좀 생소하네요.

그리고 세세한 부분의 불투명성 같은경우는 컴퓨터 잘다루시는 분들은 잘 찾아 내시더군요. 프로그렘으로 만들어진것이기 때문에 소스코드와 데이터베이스만 있다면은 불가능하지는 않습니다.

339 2016-03-09 22:08:38 1

인공지능의 무서움 : "복기를 해보고 싶을텐데요... 상대가.." [새창]

11 인공지능의 선택과 사람의 선택의 비교는... 결국 사람의 선택과 사람의 선택의 비교가 됩니다.

인공지능을 가진 차가 말씀하신 상황에 처했을때 그 인공지능이 어떻게 결정을 내릴까요?? 이 인공지능의 결정은 결국 사람이 짜내어진 프레임안에 있어요. 그래서 사람이 어떤 프레임을 짯느냐에 따라 선택이 갈리는거지요.

엔지니어가 짜낸 알고리듬을 토대로 무단횡단을 한사람이 확율적으로 덜다칠거 같다 싶으면 인공지능은 그선택을 할것이고... 아니면 그 반대로 하겠지요. 둘이 확율이 같다고 했을때는 이 프로그램을 짠 사람이 무단횡단을 하는사람을 구하는것에 비중을 높게 했다면 그쪽을 구하는것이고 아니면 반대.

확율적으로 계산한거기 때문에 인공지능이 확율적 실수를 한거라면 그 알고리듬의 문제가 있는거고... 인공지능이 스스로 무언가를 결정할수는 없습니다. 그러므로 인공지능의 결정과 사람의 경정의 비교는 전 조금 이상하다고 보네요.

338 2016-03-09 20:42:56 1

인공지능의 무서움 : "복기를 해보고 싶을텐데요... 상대가.." [새창]

스스로 생각이라는 개념이 에매모호 하지만... 일단 인공지능도 결국 사람이 짜아놓은 알고리듬으로 작동하는 프로그렘입니다. 어떤 결정을 내리는 여러 알고리듬중에 최적의 선택을 하는거 조차 결국 사람이 짜놓은 발류함수에 의거할뿐.

337 2016-03-09 20:39:17 10

인공지능의 무서움 : "복기를 해보고 싶을텐데요... 상대가.." [새창]

"이 놈이 뭘 어떻게 해서 그런 생각들을 한 것인지를 알 수 없다"...
아니예요;; 이 인공지능도 결국 구글 엔지니어들의 알고리듬에 의해 짜여진건데 그알고리듬을 알면 어떻게 이런 결과를 냈는지 알수 있죠.

아이구... 이런 논점은 무의미해요... 제가 지금 머신러닝을 공부하고 있고 AI 를 조금만 공부해보시면 알겠지만

일단 엔지니어들이 AI 의 성능을 높이려고 하는 이유가 사람이 어떤 일을 할때에 정확성을 높이려고 또는 과거, 현제 상황들(변수들) 을가지고 미래를 예측할러고 하는것인데. 그것이 잘되어서 AI 의 정확성이 높아졌다면 당연히 AI 의 결과를 충분히 신뢰해야죠. 결국 선택은 사람이 하는거지만요.

컴퓨터의 결론이 옳은지 그른지 사람이 판단하느냐 마느냐 이런 질문은 우리가 AI 를 만들려는 목적을 잘 이해못하는거로 봐요

336 2016-03-09 20:24:20 0

알파고에 대한 이야기 [새창]

머신러닝을 공부하고있는 사람으로서 30년전 기술이라는것은 동의하기 어렵군요... 머신러닝이라는 개념은 오래됬지만 조금만 literature을 읽어 보셨다면 얼마나 새롭도 발전된 방식이 계속 나오는지 아실텐데... 구글이 예전방식을 그대로 사용하지는 않았을거고 당연히 새롭고 발전된 알고리듬을 사용하였겠지요

335 2016-03-09 20:17:17 0

알파고에 대한 이야기 [새창]

아니요 이 unsupervised learning 을 잘 못이해하신것 같습니다. "데이터들을 특징과 유사성에 따라 군집을 찾아내 각각 별개의 대상으로서 분류하고 구분짓는게 Unsupervised" 가 맞지만 컴퓨터가 스스로 그것을 하는것은 이 unsupervised learning 에 포함되어있지 않습니다. 스스로 하는것은 automated planning 이라는 개념이고 거것이 없다면 결국 사람이 이런이런식으로 클러스터 (unsupervised learning 의 한 방법)를 해라 라고 알고리듬을 넣는겁니다.

334 2016-03-09 19:32:01 0

알파고의 학습은 어디까지 가능한가요? [새창]

이분의 질문은 느리다는것 보다는 예측성을 가지고 말하시는거 같아요.

333 2016-03-09 19:30:19 0

알파고 대국과 사람들 의견을 보면서 든 생각... [새창]

아이구... 이런 논점은 무의미해요... AI 를 공부해보시면 알겠지만

일단 엔지니어들이 AI 의 성능을 높이려고 하는 이유가 사람이 어떤 일을 할때에 정확성을 높이려고 또는 과거, 현제 상황들(변수들) 을가지고 미래를 예측할러고 하는것인데. 그것이 잘되어서 AI 의 정확성이 높아졌다면 당연히 AI 의 결과를 충분히 신뢰해야죠. 결국 선택은 사람이 하는거지만요.

AI 가 주인이니 사람이 주인이니 이런 질문은 우리가 AI 를 만들려는 목적을 잘 이해못하는거로 봐요

332 2016-03-09 19:22:49 1

알파고의 학습은 어디까지 가능한가요? [새창]

머신러닝 이라고 한번 검색해 보세요. 일단 확율론적인 방법으로 게임을 진행하였다는 가정하에 (분명 그랬을겁니다) 바둑은 룰이있는 경기이고 다른 것들에 비해 예상치 못한 변수들이 적습니다. 그래서 데이터만 충분하다면 아주 정확한 (오류가 별로 없는) 예측을 함으로써 경기를 풀어나갈수 있겠지요. 하지만 기상예보는 일단 변수가 너무 많습니다. 그래서 많은 대이터가 있지만 오류가 많이 나는거예요. 스스로 학습이라는 개념도 결국 데이터를 피드 함으로써 확율적인 정확성을 높이는것뿐입니다.

331 2016-03-09 19:12:33 5/6

배우자의 기준 연봉 [새창]

저번에 소개팅남 멘붕게에 올라온거 보고 깜짝놀랐죠 ㅜㅠ 진짜 10퍼도 안됬으면 좋겠어요.

330 2016-03-09 19:09:10 0

한국판 '알파고' 언제쯤…'지능정보사회플랜' 연내 수립 [새창]

아이구 무언가 일만터지면 그때서야 빤짝 한다고 설래발치고... 좀 차근차근 10년 20년 앞을 내다보고 정책을 실행했어야 하는거 아닌가요... 그리고 외국에서 구글이란 사기업이 이런 인공지는 만드는동안 우리나라 사기업인 삼성 엘지는 머하고;; 국가가 이일을 주도하고 있데요... 답답하군요

329 2016-03-09 19:03:31 0

[질문/본삭금] 한국의 화학 대학원 추천 [새창]

미국 Phd 시민권이냐 아니냐 그런거 별로 안봅니다. 제가 수학, 경제 지원했었는데 저때만 해도 대부분 학교 박사 정원중 60% 가 외국인이였어요 (40%는 중국인). 제동생이 Georgia Tech 에서 바이오켐 엔지니어 공부하고 지금 Emory 에서 리서치 하고있는지라 간간이 들어보면. 일단 그쪽분야는 미국 쪽으로 박사 가시는것을 추천하고요, 일단 가장 중요한건 추천서, 그리고 리서치를 얼마나 했냐, 그다음 성적, 그다음 GRE 입니다. 1년 남짓 랩에서 일하셨으면 3rd 저자로도 논문에 나올수 있으셨을텐데 좀 아쉽군요... 논문이 있냐 없냐에따라 탑 5이냐 10이냐 많이 갈린다고 해서요.

328 2016-03-09 18:52:05 0

문과를 비웃는 이과 [새창]

와 과학을 뛰어넘는 현답이다!

327 2016-03-09 18:43:59 0

당장 바둑계의 미래가 걱정이네요 [새창]

이런 인공지능이 시중에 퍼지기까지는 적어도 몇십년은 걸릴거예요! 너무 걱정하지 마시길

326 2016-03-09 18:42:13 0

알파고가 이세돌을 일단 한번 이겼네요. [새창]

아뇨아뇨 이 인공지는은 확율적 논라구조도 분명 병행하고 있었을거예요. 그래서 오차가 생길수도 있습니다.