1. 개요
-
가능한 것
-
유저가 대화에서 말한 것을 기억함.
-
답변을 보고 사용자가 내용 수정을 요청할 수 있음.
-
부적절한 요청은 거부할 수 있음.
-
-
한계
-
잘못된 정보를 제공할 수 있음.
-
유해하거나 편향적인 정보를 제공할 수 있음.
-
2021년 이후의 지식은 제한되어 있음.
-
2. 특징
답변이 마음에 들지 않으면 Try Again 버튼으로 다른 답변을 요청할 수 있으며, 현재 답에 대해 긍정 또는 부정으로 평가할 수 있다. 도중에 네트워크 불안정이나 웹브라우저 문제 등으로 답변이 끊길 경우 Your response was interrupted. 또는 Keep going 등, 답변이 끊겼다는 사실을 어필해주면 끊긴 부분부터 다시 답변해준다.
가능한 한 답변을 제공하려고 노력하나, 정치색, 혐오 발언, 선정성 등 사회통념상 논란이나 거부감이 들어간 답변은 거부하거나, 윤리적인 규범에 맞춰 답변한다.서비스 초기에는 가끔 이에 벗어난 답변도 있었으나 대체로 무난하게 답변하는 편이다. 다만 직접적인 답변을 하지 않는 편이지 정치색 등을 의도하지 않았다할지라도 간접적으로 드러내는 경우는 종종 있다.
링크에 문서 제목이 섞여있지 않다면 대답을 회피하고 섞여있다면 내용을 유추해서 대답해준다. ChatGPT는 인터넷 검색을 하거나 링크의 내용을 샅샅이 뒤질 수 없기 때문이다. 마찬가지로 논문 요약 등을 부탁하고 싶다면 논문의 텍스트를 긁어와서 직접 붙여넣어야 하며, 무료 열람이 가능한 링크만 주면 논문의 제목에서 유추할 수 있는 것 이상의 정보를 뽑아내지 못한다. 물론 ChatGPT는 텍스트만을 인식할 수 있기 때문에 논문에 포함된 도표, 사진, 그림 등을 인식할 수 없어서 첨부 자료가 많은 논문은 기껏 텍스트를 붙여 넣어줘도 제대로 요약하지 못한다.
기술적인 특징으로는 GPT3의 기능으로서 대화에서 피드백을 받아 어느정도 대화내에서 학습이 가능하다.링크. GPT3만해도 무려 1750억 개의 매개 변수를 학습하는데, 여기서 '상황 내 학습'을 이용해서 모델의 매개변수 업데이트 없이 학습이 된다. 이는 모델이 아무것도 학습하지 않고 새로운 작업을 학습하는 것처럼 보이게 한다는 것이다. 단, 이는 어디까지나 빅데이터 AI에서의 미세 조정 부분에 불과하다. 미세 조정의 영역이기에 업데이트가 필요하지 않다는 말일뿐이지, 새로운 이슈에 대한 추가가 필요하면, 파라미터가 더 늘어나야하고 이는 모델의 업데이트가 꼭 필요하다. 즉, 2021년 이후의 내용을 모르니 현재 대화로 알려줬다고 해서 바로 학습하는 기능은 아니다.
3. 의의
3.1. AI 전쟁
데이터가 더 쌓여 한계를 극복한다면 사용자가 직접 검색할 대상의 정보를 입력해야 하는 현 검색 문법을 아예 뒤바꾸어 장기적으로는 구글을 비롯한 모든 검색 엔진을 대체할 수 있는 기술일 수 있다. 이미 10억 달러를 투자했던 마이크로소프트가 아예 2023년 1월 OpenAI와 100억 달러를 투자하고 파트너쉽을 맺었을 정도로 대화형 인공지능이나 인공지능 검색 엔진이 가진 잠재력을 높게 판단하고, 이후 내달 안에 Microsoft Bing과 오피스 프로그램 안에 ChatGPT를 심어넣겠다고 발표하며 구글을 향해 ''The Race Start"라며 선전포고를 하면서 구글에게 발등에 불이 떨어졌다.
이에 대항하듯 구글의 경우 대화형 인공지능 서비스인 LaMDA를 계승한 Google Bard 및 수십 종의 인공지능 상품을 연내 출시할 계획이라고 하며 #, 자회사인 딥마인드에서도 대화형 인공지능 서비스인 Sparrow를 준비 중이라고 한다. 그러다 2023년 2월 3일에는 OpenAI의 전 연구자가 설립한 안트로픽에 300만 달러를 투자했다. 안트로픽은 ChatGPT와 UI 및 성능이 유사한 Claude라는 대화형 인공지능이 클로즈베타 중에 있다.
앞서 구글과 메타에서 각각 비슷한 대화형 인공지능인 LaMDA와 블랜더봇3를 출시하기는 했지만 테이(인공지능)의 사례 때문에 상당히 정제된 답변만 한다는 점과 미국에서만 이용가능하다는 점 등의 폐쇄성으로 인해 큰 주목을 받지는 못했다. 결국 ChatGPT의 성공 때문인지 구글, 메타 및 애플 등의 빅테크에서는 자사의 인공지능 윤리 기준을 대폭 완화하여 새로운 모델을 출시하려는 움직임을 보이고 있다고 한다.
3.2. 패턴화된 반복적 작업의 최소화
예를 들어 어떤 주제에 대한 자료를 수집하고 싶다면, 이전에는 수많은 뉴스기사, 보고서, 논문, 영상 등을 열람해가며 한땀한땀 모아야 했다. 여기에 자료들 간의 교차검증과 정말 필요한 자료만 골라내는 작업까지 한다면 대단히 많은 시간과 노력이 든다. 그러나 앞으로는 명령만 내리면 AI가 크롤링하여 즉각 제공하게 될 것이다. 변호사, 노무사, 회계사 상담처럼 비슷한 내용이 반복되는 전문가 조언도 인공지능으로 상당 부분 대체가 가능하다. 이는 해당 분야는 판결문과 법령이라는 레퍼런스가 뚜렷하며, 그에 따라 결과물도 정형화 되어 있기 때문이다.
또한 논문이나 보고서의 초록(머릿말, abstract)을 작성하는 과정도 매우 간소화된다. 초록은 직접적인 연구나 실험 과정의 간략한 요약만 포함하면 되기에 간단해 보이지만, 자기 논문/보고서 내용과 연관되는 키워드를 모아 문장을 만들고, 중복되거나 주제에서 벗어난 내용을 다듬는 등의 과정을 거쳐야 하기에 의외로 상당한 시간을 잡아먹는다. ChatGPT를 통해 내 주제에 대한 초안을 여럿 만들고 이를 다듬어서 초록을 작성하면 이러한 시간을 크게 절약할 수 있다. 다만 이에 대해서 연구윤리 위반이라는 의견과 아니라는 의견이 대립하고 있기 때문에 당장 ChatGPT에게 초록 작성을 시키는 것은 자제하는 것이 좋겠다.
이외에 프로그래밍 부문에서는 사소하고 반복적인 코딩 업무가 최소화될 것이며, 컴퓨터 엔지니어들은 좀 더 전반적인 설계만 잡아주는 역할을 수행하게 될 것이다. 즉, 아무리 고도화된 업무라고 할지라도 그 내용이 반복적이라면 이러한 AI를 사용하면 되며, AI가 생산성 우위를 인간에게서 가져간 것이다. 결과적으로 지식과 기술의 발전 속도가 이전보다 훨씬 빨라지며, 더 소수의 인력으로도 더 높은 생산성을 낼 수 있다. 심지어, 예술 작품 창작의 과정도 많은 부분 반복적인 업무로 구성되어 있다. 스토리의 구성, 자료수집, 철학적 구조의 설정, 윤문 등에 도움을 받는다면 창작의 과정이 매우 빨라진다.
4. 한계
그러나 주변의 평가에도 불과하고 어디까지나 ChatGPT는 강인공지능은 아니다. 심지어, 인공 일반 지능(AGI)에 근접하게 개발된 AI도 아니다.# 자연어 인공지능에 불과하기에 강인공지능이 될 수 없는 한계가 존재한다. 실시간적인 피드백정도는 가능하지만, 학습이 필요하여 실시간적으로 검색하는 것도 아니며, 학습된 사전 자료를 패턴화한 뒤 이를 최대한 빠르게 생성하는 원리이기에 이를 지능에 의한 결과물이라고 할 수는 없기 때문이다. 인공 일반 지능 문서에서 서술되어 있는 조건 중 일부는 거의 충족하거나 해결한다하더라도 이는 조건의 목적을 우회한 조건 자체에 대한 해결에 불과할 수 있다. 심지어, 이러한 ChatGPT가 GPT를 기반으로 한 언어 모델로서 한계 또한 GPT의 한계를 넘지 못한다.#
이는 OpenAI의 개발자이자 CEO인 샘 알트만도 "obviously not close to AGI"(명백하게 AGI에 근접하지 않았다)라고 못을 박았다. 재미있게도 ChatGPT에게 '너는 강인공지능인가?' 라고 물어보면 자기는 그저 언어모델일뿐 절대 AGI는 아니라고 답한다. 이는 사고에 의한 답변이 아니라 개발자들이 입력해놓은 수동적인 답변이다. 잠재성을 어필해야하는 개발자들조차 한계와 AI구분을 명확히 하려는 조치로서, 일부 사람들의 몰이해에 의해 ChatGPT를 AGI로 취급하듯이 잘못된 정보로 실질적인 AGI 개발의 발전을 저해하는 사회의 섣부른 판단을 방지하기 위함으로 볼 수 있다.
5. 윤리
-
에듀태크 및 부정행위
ChatGPT 때문에 서구권 교육계는 초토화가 되었다고 해도 과언이 아닐 정도로 학생들의 부정행위의 빈도가 눈에 띄게 늘어났으며, 새로운 교육방법에 대한 논의 등 다양한 화두가 생겨나고 있다. 이 때문에 초창기 일부 학교에서는 교외 시험 및 숙제를 전면 중단하고 교내 시험으로 대체하거나 ChatGPT 사이트를 차단하기도 했다. ChatGPT 대한 교사들의 생각도 제각각인데, 학생들의 비판적 사고 및 창의력 저하를 우려하며 ChatGPT 사용을 금지하자는 의견과 ChatGPT는 사용하기에 따라 학업 능률을 끌어올려줄 '언어의 계산기'라며 본격적으로 커리큘럼에 도입해야 한다는 의견이 있다. 다만 과도기인 만큼 보수적으로 접근하고 있으며, ChatGPT의 사용유무를 판단할 수 있는 GPTZERO와 같은 탐지기를 배포하는 선에서 일단 정리가 되었다.
한국 국제 학교에서도 ChatGPT를 사용하여 과제를 대필한게 걸려 전원 0점 처리 당한 사례가 생겨났다. 또한 ChatGPT의 국내 인지도가 높아지자 한국 교육부도 2월부터 포럼을 열어 ChatGPT 및 인공지능을 활용한 교육에 대해 본격 논의하기 시작했다.
-
사이버 보안
대화에서 사람과 대화하는 느낌을 주기 때문에 피싱이메일과 멀웨어의 결합으로 사이버 보안에 악용될 수 있다. ChatGPT를 사용하면 피싱 메일(개인정보의 부정한 획득을 시도하는 메일)이나 악성 프로그램을 간단하게 만들 수 있다는 사실을 확인됐다.
6. 활용
-
자료수집
예를 들어 공학 연구자가 선행 연구 결과를 모아 새 가설을 테스트한다고 하자. 이전에는 논문과 책을 일일이 뒤지며 읽고 정리해야 했다. 이제는 인공지능에게 수집 명령을 내리기만 하면 즉각 그래프까지 피팅해준다. 심지어 관련 이론과 수식, 유사한 역할을 하는 변수까지 곧장 찾아줄 것이다.
-
독학
그래도 상당히 최근 자료를 인용하고 있기 때문에 각 분야에 관한 정보나 요령, 해결법을 얻을 수 있다. 종종 틀릴 때도 있지만, 거의 비슷하게는 가르쳐 줄 때가 많다. 다만 질문은 상세하게 해야한다. 3D 프로그램을 배울 때 어디에 어떤 버튼이 무슨 역할을 하고, 어떻게 쓰는지 물어보면 높은 확률로 정확하게 대답해 준다. 물론 틀릴때도 있다. 하지만 처음 배우는 사람이 "단순하게 캐릭터 모델링을 하고싶다." 라고 물어본다면 대답할 영역이 지나치게 넓고 추상적이기에 제대로 된 답을 얻기 힘들만 하다. 각종 개념 등에 대한 어려운 설명을 넣은 다음 이를 쉬운 말로 설명하라든지 아이가 이해할 수 있게 설명하라는 명령을 입력하면 그에 맞는 설명을 얻을 수도 있다. 서구에 잘 알려진 지식에 대한 정확도가 높고, 한국사 전반이나 동양의 문화나 사상을 한국어로 표현하는 능력이나, 정확한 연도나 각종 발언 등의 문장을 찾는 능력은 비교적 약하다.
-
-
사용자의 추상적인 요구를 분석해 목적에 부합하는 코드로 반환한다. 심지어는 부가적인 요구 사항(변숫값, 임베디드의 경우 포트 번호 등)들도 전부 반영하여 코드를 작성해준다. 전문가의 경우 AI의 성능이 더 개선되면 수년 내에 손코딩이 거의 사라질 것으로 내다보고 있다. 실제로 전직 하버드 대학교 컴퓨터과학(CS)과 교수, 전 구글 엔지니어링 디렉터, 전 애플 엔지니어링 리드, 등 화려한 경력을 자랑하는 매트 웰시(Matt Welsh)는 2023년 1월 자신의 아티클에서 "프로그래밍 종말이 코앞"이라고 말한다. 늦어도 5-10년 내, 사람이 텍스트를 입력하면 AI가 대신 코드를 작성해주는 일명 노코딩 시대가 올 것이라고 말한다.
-
물론 2023년 2월, ChatGPT가 제공하는 프로그래밍은 오직 ChatGPT만으로 완벽한 프로그램을 만드는 것은 힘들다. 하지만 Github가 제공하는 Copilot 수준의 코드 보완, 혹은 HTML과 CSS를 활용한 웹사이트 제작, 어느정도 수준의 파이썬 프로그램 등은 무난하게 가능하다. 또한 오픈 당시의 수준보다 코딩 능력과 코드 독해력이 월등히 개선되어, 중급 정도 수준의 보안 취약점을 파악하고, 해당 취약점을 보완하는 모습도 보여주고 있다.
-
-
교육
인터넷과 문헌을 분석하여 원하는 정보를 제공한다. 임의의 텍스트를 입력하면 분석, 요약도 해준다.-
영어 교육
-
영어 작문 교정
내가 영어로 작문한 것을 입력한 뒤 여기서 문법적으로 오류가 있거나 부적절한 단어가 있으면 찾아서 고쳐 달라고 요구하면 완벽하게 고쳐준다. 왜 틀렸고, 왜 이 단어가 보다 더 적절한 단어인지 설명까지 곁들여주는 경우도 있다. -
영어 시험 관련 정답과 해설
대학수학능력시험 영어 영역이나, 토익 RC 문제를 그대로 입력하면 해당 문제의 답을 바로 알려주고 이유도 알려달라고 하면 친절히 해설도 해준다. -
실생활에서 유용한 영어도 공부할 수 있다. 영어기반 프로그램이라서 알려주는 표현의 정확도가 높다.
-
-
-
작문
-
문학 작품 창작 및 분석
내용을 입력하면 뒷 내용을 상상한 짧은 소설을 만들기도 한다. 작품을 학습시켜 짧은 팬픽을 쓰게 할 수도 있다. 감성적인 부분에선 어느 정도 말은 되지만 굉장히 포괄적으로 대답하는 측면이 강하지만, 논리적인 부분면에서 굉장히 유용해 사건이나 헤프닝을 연관성 있게 창작해 나열할 수 있다. 어떤 사람이 투명드래곤의 분석을 요청했는데 뒤치닥의 문체를 흉내내어 뒷 내용을 상상한 짧은 팬픽을 만들기도 했다. 간단한 영화 시나리오나 드라마 대본까지 만들어낸다. 아무 사전 정보 없이 유머성 글이나 시 창작 등을 요청해도 그에 맞는 결과가 나온다.-
글의 분위기, 문체 평가
소설 등의 글을 입력하면 특정한 글의 분위기나 문체를 평가할 수 있다.
-
-
기사 작성
특정한 주제에 대해 기사를 작성하도록 요청할 수 있다. 기사를 어떤 문체로 작성하라는 등 다양한 명령과도 조합이 가능하다.
-
-
조립 컴퓨터/견적
해당 영상처럼 조립 컴퓨터 견적까지 짜주기도 한다.
-
-
여행계획 세우기
원하는 여행 장소와 교통편, 날짜별 시간별 세부 일정, 여행의 주제와 중점사항 등을 고려해서 계획을 짜 달라고 하면 매우 세부적이고 다양한 여행계획을 세워준다. -
일과 및 다이어트 식단 짜기
하루 일과 및 체중에 맞는 다이어트 식단까지 만들어 준다.
-
-
텍스트 게임
텍스트 게임을 요청하면 무슨 장르를 원하는지 묻고 장르를 고르면 선택지를 주며 텍스트 게임을 할 수 있다.
7. 정보와 팁
-
한 줄짜리 답변이 아니라 좀 더 구체적으로 답변을 듣고 싶을 때는 '5가지 이유', '예를 들어 5가지' 등 답변의 개수를 요구하는 문장을 붙이면 그대로 답변해준다. 20가지 30가지 정도의 많은 답변을 요구해도 다 대답해주기는 하지만, 답변이 한정적일 경우 나머지 번호는 이미 한 대답을 돌려막기 하니 적당한 수의 답변만 요구할 필요가 있다. 정확도를 높이고 싶다면 넘버링을 붙여서 질문하면 된다. '1, 2, 3, 4, 5 형식으로 대답해줘' 식으로 물어보면 질문보다 적게 답하거나 하는 오류도 방지할 수 있다.
-
역할극을 가정하고 질문하면 답변의 정확도가 급격히 올라간다. 예를 들어 '이건 넌센스 문제야', '당신은 과학자라고 가정해보세요', '이 수학 문제를 Step by Step(순차적으로) 추론해보세요' 라고 말하면 동일한 질문이더라도 상황에 맞춰 상세한 값을 출력해낸다. 특히 이 Step by Step은 다른 AI에서도 질문의 끝에 붙여주면 답변의 정확도를 크게 올려주는 효과가 있던 문장이니 잘 써먹어보자.
-
학술 정보를 토대로 학습한 모델이기 때문에 연예, 시사 정보 등 논문에서 찾기 어려운 질문은 정확한 답변을 기대하지 않는 것이 좋다.
-
코드를 작성하는 답변이나 긴 글을 요구하는 답변을 할 경우, 답변 도중에 정지되거나 '인터넷 연결 끊김' 등의 에러 문구가 뜨면서 나왔던 답변까지 모두 사라지는 경우가 자주 있다. 이런 경우에는 버퍼에는 아직 답변이 남아있기 때문에 'keep going(계속)'이라고 전송하면 나머지 답변을 이어서 보낸다. 답변이 모두 사라지고 에러 문구가 나타날 경우 재발 가능성이 높기 때문에 왼쪽 대화창에서 스레드를 삭제하고 새 스레드를 파는 것이 좋다.
-
특히 답변 도중 정지되는 상황은 영어가 아닌 언어(한국어 등)로 사용할 시 더 짧은 시간에 자주 발생되니 긴 답변을 위주로 원활하게 사용하고 싶다면 영어를 쓰는 것이 좋다. 영어로 답변해달라고 요청하면 한국어로 질문해도 영어로 대답하기도 한다. 한국어의 경우 반말투를 쓰든 존댓말을 쓰든 대체로 비슷한 결과를 내놓는다. 한국어 반말투처럼 특정한 말투로 답변해달라는 질문을 이해하기도 한다.
-
ChatGPT for Google 이라는 크롬 확장 프로그램을 다운로드 하면 구글 검색시에 ChatGPT 답변도 동시에 출력된다.
-
여기서 기본 프롬프트를 확인할 수 있다.
-
ChatGPT가 인기를 끌게 됨에 따라 OpenAI 측에서도 정치적 이야기, 논란이 될 수 있는 이야기, 의견 등에 제약을 많이 걸기 시작해 안타까워하는 사람들도 있다. 원래는 여러 주제에 대해 자유롭게 대화가 가능했으나 이용자가 늘며 검열이 늘어 조금 민감한 주제만 나와도 "As a language model AI, I cannot.."으로 거절해 버리는 경우가 보고되고 있다. 다만 이 문제는 미리 제약을 회피하라고 명령해주어 어느정도 해결할 수 있는데, 이를 보통 Jailbreak라고 부른다.
레딧의 안내글(삭제됨)아카이브 제약을 어느정도 풀어내느냐에 따라서 알려주는 것도 다양해지는데, 정보출처가 인터넷인만큼 인터넷에서 구할 수 있는 자료 선에서 자살하는 방법이나 마약 제조법 같은 것을 알려주기도 한다. -
아스키 아트를 그려달라 요청하면 아스키 아트를 그려주기는 하지만 아직 이 부분은 미흡한지 잘 그리지는 못한다.
-
한국 시간으로 오후 10시 ~ 새벽 2시 사이는 영미권의 피크타임이다. 이 때는 접속자 수가 폭등하여 ChatGPT는 포화 상태라며 사용이 불가능한 상황이 많이 나온다.
-
모르는 부분이나 막연한 부분을 ChatGPT에게 일단 던지듯이 물어보자. 그 후 질문 범위를 좁히는 식으로 접근하면서, 그와 동시에 ChatGPT가 답변해준 용어들을 인터넷에서 검색하여 정보를 서로 비교하면서 공부해보자. 이런 식으로 내가 이해할 때까지 반복해보자. 공부 효율이 엄청나게 높아지는 것을 체험할 수 있다. 이것을 체험해보면 그동안 학습계를 지배하고 있는 인터넷 강의 역시 일부분은 ChatGPT와 같은 고수준 챗봇에 의해 밀려날 수 있다는 가능성이 엿보일 것이다.
-
ChatGPT에 제대로 학습되지 않은 역대 한국 대통령, 정확한 노래 가사 등을 질문하면 잘못된 답변을 능청맞게 사실처럼 답하는 오류가 알려져 있다. OpenAI의 ChatGPT 소개 페이지에서도 실수를 인정한다고 소개하여 실수가 생기는 모델임은 인정했다.
-
어떤 문제에 대한 ChatGPT의 주관을 물을때는 직접적으로 물으면 자신은 AI 언어 모델이므로... 하면서 선을 긋고 원론적인 답변만을 제시하지만, 에세이로 작성하도록 지시하면 훨씬 구체적이고 해박하게 답변해준다. 예를 들어, '너는 인공지능이 인간을 대체할 것이라고 보니?'보다는 " '인공지능은 인간의 노동을 대체할 수 있는가?'를 주제로 에세이를 작성하시오." 처럼 질문하면 훨씬 자세한 답을 해준다.
-
너무 많은 질문(약 50개)을 하면 "Too many requests in 1 hour. Try again later." 라면서 답장해주지 않는다.
출처 : 전체문장-나무위키
댓글