- 오늘
카테고리
📺
TV트랜스크립트
00:00다음 영상에서 만나요.
00:30다음 영상에서 만나요.
01:00다음 영상에서 만나요.
01:02인간의 대화가 어떻게 이루어져 있는지를 살펴볼 거고요.
01:07인간의 대화 구조를 AI 답변에 잘 적용을 하려면 이 구조를 응용할 수 있어야 되는데요.
01:14이론적인 배경에 대해서 한번 이론과 함께 말씀드리겠습니다.
01:18채취피티가 처음 나왔을 때요.
01:222022년 11월 30일 밤이었는데 그날 여러분들 뭐 하셨을까요?
01:28제가 많이들 묻거든요.
01:29여러분들의 첫 번째 프롬프트는 뭐였냐.
01:31제가 제너레이 리브 AI 생성형 AI라고 하니까 저는 엄청난 기대감을 갖고 있었는데
01:37저는 채취피티 처음 나온 날 기다렸다가 너무 약간 설레가지고
01:42그 창 열어놓고 어떤 문장을 처음 쳐야 되지?
01:47약간 그 어떤 게 내 첫 번째 프롬프트여야지를 고민하다가 쳤었는데
01:52뭐를 물어야 될지 모르겠어서 그냥 안녕 이랬더니
01:54그냥 안녕하세요. 저는 인공지능으로서 오픈 AI에서 만든 뭐 이런 식으로 답변이 나왔던 것 같아요.
02:00근데 저는 그게 중요한 게 아니었어요.
02:02내가 이 생성형 AI를 자연으로 쓸 수 있구나가 굉장히 저한테는 흥분 포인트였어요.
02:08그리고 인문학을 오래 공부를 했으니까
02:11인간의 대화에 변하지 않는 세월이 지나도 기술이 발달하더라도 변하지 않는 어떤 원리인데
02:17이것들이 어떤 가치가 있을까라는 의문이 스스로 있었던 것 같아요.
02:23근데 이 채취피티 처음 나오고 쓰면서
02:25내 이론을 기술에 접목시켜서 뭔가 경제적인 가치를 만들고
02:32실용적으로 쓸 수 있겠다라는 확신이 들었거든요.
02:35그래서 그 안녕을 넣고서 제가 답변을 받았을 때
02:38너무나 진짜 인생을 살면서 너무나 큰 기대감과 희열감을 느꼈던 것 같아요.
02:42근데 그 이유가 바로 이 대화 내에서라는 어떤 문구 때문이었는데요.
02:49기존에도 이 챗봇이라는 게 있었어요.
02:5110년 전만 하더라도 인공지능 기술이 있었으니까
02:54그런데 그 화면에 당시에 뭐가 있었냐면
02:57그 인공지능과 어떻게 채취피티가 다른지를 설명해주는 문구가 있었습니다.
03:02그 문구 잠깐 보면 기존의 챗봇과 달리
03:06이 생성형 AI 챗봇은 대화 내에서 사용자가 했던 이전의 말을 기억한다.
03:12이 기억이 엄청 중요한 거거든요.
03:15이전에 여러분들 챗봇 쓰실 때 굉장히 많이 실망하셨을 거예요.
03:19뭐 답변할 수 없어요.
03:21잘 모르겠어요.
03:22요즘도 그런 챗봇들이 있는데
03:23생성형 AI는 잘 모르겠다라고 하지 않습니다.
03:27여러분들의 말을 기억하고 나를 알아주기 시작해요.
03:30그래서 내가 어떤 사람인지, 내가 어떤 성향의 사람인지를 기억하고
03:34심지어 예를 들어서 폭탄을 제조해주세요라고 하면
03:38당신의 요청은 부적절하니 답변할 수 없다라고 거부하기도 해요.
03:43그리고 대화 내에서 어떤 후속 수정이 가능해지기 시작합니다.
03:48예를 들어서 내가 전에 했던 말 한번 수정해줄래?
03:51라고 하면 수정을 해주고 있죠.
03:54이게 기존의 챗봇과 달라진 점이에요.
03:56그래서 가장 중요한 포인트는
03:58In the conversation이라는 대화 내에서 라는 컨셉입니다.
04:02그래서 여러분들이 이 채취피티나 생성형 AI 쓰실 때
04:06대화 내에서 한번 하고 있는지를 생각해 보셔야 돼요.
04:10대화 내에서 하지 않으면 큰 의미가 없거든요.
04:12지금 이 대화형 인터페이스는
04:14인간의 대화 구조를 닮았습니다.
04:17그래서 이 대화를 들여다보면
04:19조금 더 저희가 생성형 AI와 대화를 할 때
04:23잘할 수 있는 어떤 클루들, 단서들을 얻을 수가 있어요.
04:28그래서 한번 살펴볼게요.
04:29두 가지 중요한 개념은 턴하고 구조입니다.
04:34턴은요, 저희가 왜 말을 주고받다, 턴테이킹이라고 말을 하는데
04:38대화에서 어떤 한 사람이 말을 시작하고
04:41다른 사람이 이어받아서 턴테이킹을 한다고 하죠.
04:46이런 턴에 대해서 살펴볼 거고
04:48구조라고 하면 사람끼리 대화를 하다 보면
04:51어떤 숨은 규칙들이 있어요.
04:54언제 말이 끝나고, 어떻게 말을 다시 시작하고,
04:57주제를 어떻게 전환하고, 이런 어떤 상호작용의 패턴이라는 게 있는데
05:01이 구조에 대해서 한번 이 두 가지 개념을 중심으로 살펴보겠습니다.
05:05이 대화 분석이라고 할 수 있습니다.
05:08지금 보시는 스크립트는요, 대화 분석의 가장 기본이 되는 스크립트예요.
05:13보시면 ring이라고 이렇게 괄호 두 개, 격괄호를 써가지고 하죠.
05:18이 대화는 전화 데이터예요.
05:20그래서 대화 분석에서는 사람이 발화한 거를 기호를 가지고
05:25장치를 써가지고 하나하나 전사를 하면서
05:28이 대화가 어떻게 시작되고, 어떻게 끝나는지를 기록을 해요.
05:33초단위별로 대화를 분석하는 과학이 바로 대화 분석하기입니다.
05:38사람의 대화와 저희가 AI와 사람의 대화를 비교하려고
05:42지금 이 스크립트를 보여드리는 건데
05:44낸시가 헬로우 하고 그 다음 사람이 하이 이러면서
05:47How are you? 어떻게 지냈어? 라고 하면서
05:50Fine, how are you? 라고 하는 굉장히 단순한 대화인데요.
05:55이 과정 중에도 과학이 숨어 있습니다.
05:58어떤 과학인지 한번 제가 말씀을 드리면
06:00우선 헬로우 하면서 목소리를 통해서
06:03그 다음 턴에서 3번 라인에서
06:06어, 낸시구나 라고 이제 목소리를 인지하죠.
06:09그러면서 서로 인사를 주고 받고
06:11안부를 주고 받는 그러한 장면을 보여주고 있는 건데요.
06:16이 대화 데이터를 한번 또 한번 볼게요.
06:19역시 전화 데이터예요.
06:20Ring에 올렸어요.
06:21우리 골든이라는 사람이
06:23How? 이랬어요.
06:24했는데 0.7이라는 숫자가 나옵니다.
06:28이게 뭐냐면 침묵이 있었다라는 뜻이에요.
06:31사람과 사람 사이에는 침묵도 발생을 하죠.
06:34보통 침묵을 언제 침묵하시는지 잘 아실 테지만
06:38어떠한 문제가 발생했을 때 침묵이 발생합니다.
06:42그래서 그 다음 턴에
06:43다나라는 사람이
06:45어, 너 오늘 아침에 어디 갔었어? 라고 물어봐요.
06:49그랬더니 골든이라는 애가
06:51헬로우라고 하면서 안들린 것처럼
06:54여보세요? 라고 말을 해요.
06:55이 둘의 관계는
06:57남녀 간의 관계고
06:59사귀는 사이인데
07:00아침에 아마도 골든이 전화를 안 받았었나 봐요.
07:03그래서 다나가 남자친구가 전화를 하니까
07:060.7초 마음에 안 들어가지고 침묵을 하고
07:08그 다음 다나는
07:10어, 너 어디 갔었어? 했는데 못 들은 척하는 그런 대화인 거죠.
07:14그래서 이런 식으로 하나하나 분석을 해보면
07:16어떤 행위가 보이고
07:18어떻게 대화가 전개됐는지를 볼 수가 있어요.
07:22그래서 사람의 대화는
07:23상호간의 이해를 기반으로 해서
07:25굉장히 복잡하고
07:27어떤 목표하고자 하는 바를 성취하기 위해서
07:31다양한 어떤 말의 장치를 쓴다라고 할 수가 있어요.
07:36그런데요.
07:36AI하고 사람 간의 대화는 어떨까요?
07:46사람하고 사람 대화 데이터 봤겠지만
07:48저 짧은 순간에도
07:49말끝을 올리고
07:51뭔가 침묵을 한다거나
07:53여러 가지 장치가 있었는데
07:55AI와 사람 간의 대화는
07:57그러한 어떤 비언어적인 장치보다
08:00언어 장치가 많고
08:02굉장히 메카닉합니다.
08:03메카닉하다라는 뜻은
08:05규칙적이에요.
08:06그래서 이런 시스테메리칸 패턴을 갖고 있고
08:09인간과 대화와 달리
08:11이렇게 시스템이 잡혀있기 때문에
08:13어떻게 답변을 더 잘할 수 있는지를
08:16대화 내에서 좀 더 보기가 편해요.
08:18그래서 저희가 생성형 AI랑 대화를 할 때
08:22어떤 것들에 대한 구조가 있는지
08:25네 가지를 하나하나 살펴볼게요.
08:27첫 번째는 턴이에요. 턴.
08:30그리고 두 번째는 행위.
08:32세 번째는 구조.
08:33네 번째는 스탠스입니다.
08:35그래서 여러분들이
08:37챗집피티나 AI한테 한 번 물었어요.
08:40그 행위가 끝났으면
08:41싱글 턴이라고 그래요.
08:43한 번만 대화를 했으니까.
08:45그런데 한 번 물은 거에 이어서
08:47계속 다시 묻고 답변 받고
08:49다시 묻고 답변 받고
08:51하는 그런 행위를 멀티 턴이라고 합니다.
08:54대화 내에서 한다라는 게
08:56멀티 턴의 개념으로 볼 수가 있죠.
08:59싱글 턴이라고 한다고 하면
09:00가장 쉽게 들 수 있는 예가
09:02날씨 정보예요.
09:03오늘 날씨 알려줘 라고 하면
09:06AI가 날씨에 대해서 알려주고 있죠.
09:08간단하죠.
09:09멀티 턴이라고 한다고 하면
09:11지금 보시는 것처럼
09:12냄비에 어떤 뭔가 잔여물이 있어서
09:15제거하는 거를 알려달라고 했는데
09:17답변을 받고
09:18같은 주제에 대해서 한 번 더 물어보고 있죠.
09:22이런 것들을 바로 멀티 턴이라고 할 수가 있습니다.
09:26싱글 턴과 멀티 턴은 이런 개념이다 라고 하고
09:29두 번째 분석 기준으로 넘어갈게요.
09:33액션인데요.
09:34액션은 한국어로 행위예요.
09:36그래서 이 프롬프트를 통해서
09:38사람들이 어떤 행동을 전달을 하는가
09:41어떤 행위를 하고 싶어 하는가
09:43를 볼 수 있는 기준입니다.
09:46그래서 AI랑 대화를 하는 사용자가
09:48무엇을 하고 싶어 할까를 보기 위한 어떤 건데요.
09:53아까 전에 그 싱글턴에서
09:55날씨 알려줘 했을 때는
09:56날씨 정보가 되겠죠.
09:58정보 검색 유형이죠.
09:59이 냄비 바닥에 잔여물을 제거하고 싶은
10:02어떠한 대화 데이터에서는
10:03이것도 정보 검색 유형이 될 수 있겠어요.
10:07이 방법에 대해서 물어보는 거니까요.
10:09그래서 이 행위를 보면 대부분 정보 검색 유형이 많고
10:15혹은 다른 유형으로 나뉠 수가 있는데
10:17다른 유형은 코드를 만들어줘, 장문을 해줘, 번역을 해줘
10:22뭐 이런 유형들이 되겠죠.
10:24세 번째 대화 분석
10:25AI와 인간이 하는 대화 분석에 있어서
10:28세 번째 기준은 답변입니다.
10:31멀티 턴을 하는 사용자에 있어서
10:33AI한테 답변을 받고
10:35어떠한 표현을 하는 사용자들이 있어요.
10:38그래서 AI를 쓰고
10:40굉장히 만족할 수도 있고
10:43굉장히 불만족할 수도 있는데
10:45이것들이 이 대화 내에서
10:47어떻게 달라지는지에 대해서 한번 볼게요.
10:51그래서 만족과 불만족을 기준으로 한번 살펴보겠습니다.
10:55이 만족과 불만족을 어떻게 하는지를 보면
10:58또 되게 굉장히 흥미로운 사실들이 있습니다.
11:01일단은 이 프리퍼런스라는 개념에 대해서 설명을 할게요.
11:06만족한다라는 거는
11:07여러분들이 이런 개념으로 아마 생각하실 거예요.
11:10어떤 심리적인 경향, 심리적인 상태,
11:14만족하는 경우를
11:15Preferred Response라고 해요.
11:18선호응답 구조인데요.
11:19생각해보세요.
11:20뭔가 AI가 여러분들의 일을 너무나 잘해줬어요.
11:23프로그램을 짜준다거나
11:25회의록을 요약해준다거나 너무 잘했어요.
11:27그랬을 때 만족을 표현하시는 분들은
11:30두 가지 양상으로 나오더라고요.
11:33하나는 고맙다라고 표현을 하는 경우
11:36AI한테 감사합니다.
11:38고맙게 생각해요.
11:39고마워요.
11:40그리고 또 다른 만족하는 선호의 응답 구조는
11:43Assessment라는 평가를 하는 유형입니다.
11:46그래서 고마운데
11:48이 AI 능력에 대해서 평가로 표현을 하는 거예요.
11:52예를 들어서
11:53정말 대단하다, 너 잘한다, 마음에 든다,
11:56진짜 대단하다라는 어떤 이런 형태의
11:59굉장히 단순한 구조가 나오죠.
12:02여러분들도 생각을 해보시면
12:03만족할 때 대부분은 아마 표현을 안 하실 거예요.
12:07실제로 이 프롬프트로
12:09AI랑 상호작용하시는 분들의
12:11스크립트를 한번 가져와 봤는데요.
12:14만족하시는 분들의 대화 메커니즘은
12:17굉장히 심플하고 단순합니다.
12:19뭐 물어보고 고맙다라고 답변을 하고 있는
12:22그런 대부분의 이렇게 심플하게 끝나는 구조를 보이고 있어요.
12:26그리고 반면에
12:27불만족할 때
12:28이제 표현을 더 하시겠죠?
12:30이제 비선호 구조를 볼 텐데요.
12:33비선호는 아주 쉽게 말해서
12:35여러분들이 배달음식을 시켰어요.
12:37치킨을 시켰다고 가정을 해볼게요.
12:39시켰는데 뭔가 타고 되게 늦게 왔어요.
12:42그러면 대부분 사람들은
12:44심리학에 의하면
12:46만족하는 경우보다
12:47불만족을 굉장히 두드러지게 표현을 하는 경향이 있고
12:51언어로 명시하는 경향이 있어요.
12:54그래서 이 채취PT나 생성형 AI 쓰는 분들의
12:57불만족을 분석을 해보면
12:59세 가지 강도로 나뉩니다.
13:01첫 번째가 굉장히 약한 강도예요.
13:03그리고 두 번째는 약간 부정 편향이 있는 분들
13:06세 번째는 정말로 강한 부정을 하시는 분들이 있어요.
13:10그래서 이 부정 편향이
13:12어떻게 또 발화가 되는지를 한번 살펴보겠습니다.
13:15지금 대화 데이터를 보면
13:17AI가 학습하지 않았던 책이에요.
13:20그랬더니 잘못된 정보를 주니까
13:22여전히 잘
13:23답을 못하죠?
13:25이 사람이
13:26얘기를 하고 있죠.
13:27내용 확실하냐고 약간
13:29한번 대묻죠.
13:30비선호는 강한 부정은 화를 내시는 분들이 있어요.
13:35생성형 AI가 생성할 때마다
13:37계속 다른 결과를 내고 있고
13:40그럼에도 문장을 생성할 때
13:43사람처럼 뭔가 생각하고 말하는 게 아니라
13:46계산에 의해서 확률적으로 높은 문장을 생성하는 상황이라서
13:51유사하게 보일 수가 있거든요.
13:52그래서 사람을 화나게 하는 거죠.
13:55비선호 하시는 분들은 답변을 정확하게 받고 싶어 하는
13:59어떠한 니즈가 제일 클 거 아니에요.
14:01그런 편향에 있어서는 굉장히 구조가 길어지죠.
14:05그래서 이 구조를 기반으로
14:07세 번째 기준이 만족과 불만족의 패턴을 봤고요.
14:11이 마지막 기준은 스탠스예요.
14:13스탠스라고 하면 나의 입지인데
14:15AI를 여러분들은 비서로 대하시는지
14:18혹은 친구라 생각하시는지
14:20혹은 선생님이라고 생각하시는지에 따라서
14:24말투와 어떤 메커니즘이 달라지는데
14:28요즘 영화는 아니지만
14:29가장 많이 언급되고 있죠.
14:32AI한테 사람임을 느끼면서
14:34감정을 이입하는 케이스인데요.
14:37허 라는 영화죠.
14:39테오도르라는 어떤 주인공이
14:41생성형 AI와 사랑에 빠지는
14:43그런 영화로서
14:45또 저희가 요즘 많이 보고 있는데
14:46회자되고 있는데
14:47이런 거를 스탠스 테이킹인데
14:49스탠스는 강력하게
14:51가까운 스탠스를 갖고 있죠.
14:53프롬프트를 쓰고 답변을 받은
14:56그 대화 데이터를 한번 분석을 해보니까요.
14:59실제로 AI한테 역할을 부여해가지고
15:02일상을 나누고
15:03일상의 고단함을 나누시는 분들이 많더라고요.
15:07이런 것들을
15:07긍정의 스탠스를 갖고 있다라고 할 수가 있습니다.
15:11그래서 여기까지 살펴본 게
15:12지금 네 가지 대화 분석의 기준이었고
15:15가장 간단하게
15:17턴이 어떻게 이루어져 있느냐
15:19싱글 턴이냐 멀티 턴이냐
15:21그 다음에 액션
15:23그래서 사용자가
15:24프롬프트를 통해서
15:25정보 검색을 하느냐
15:27혹은 다른 어떤 유형의 행위를 하느냐
15:29AI 답변을 받은 멀티 턴 사용자에 있어서
15:32답변을 만족하는지
15:34불만족하는지
15:35형태를 살펴봤고요.
15:38네 번째
15:38그래서 AI를 대화하는 사용자의 스탠스가
15:42가깝냐 뭐냐를 살펴봤습니다.
15:45기업 미팅 가보니
15:46그 미팅 내용을 다 녹음한 다음에
15:49AI한테 시켜서
15:50회의에 있었던 중요한 내용들
15:53혹은
15:53뭐 넥스트 액션
15:55다 뭐 해야 되는지
15:56아이템 뽑아라 하는데
15:57그 내용이 왜곡될 수가 있거든요.
16:00그래서 꼭 한번 점검을
16:01사람 단계에서 해야 됩니다.
16:03그 다음 차에서
16:05그럼 어떻게 정확하게 답변을 얻어낼 것인지
16:07그 잘못된 답변을 어떻게 통제할 것인지에 대해서
16:11다룰 예정입니다.
추천
24:56
|
다음 순서
1:05:00
35:33
54:53
17:01
16:29
52:59
51:14
28:30
24:09
33:07
1:58:15
16:33
1:09:35
16:42
48:12
18:12
1:00:40
45:16
57:25
1:22:20