[G-ChatBot] G-ChatBot의 unilater 챗 모드를 이용한 글 작성 및 토큰 사용량 비교

https://gboysking.net 

G-ChatBot

1. 서론

1-1. G-ChatBot과 챗 모드의 소개

G-ChatBot은 OpenAI API를 이용한 인공지능 챗봇 서비스 중 하나로, 단순한 응답에 그치지 않고 대화를 이어가며 질문에 대한 답변을 해주는등 인공지능 기술의 발전에 기반한 혁신적인 서비스입니다.

1-2. 글 작성에서의 일관성 유지의 중요성

글 작성에서 가장 중요한 요소 중 하나는 일관성 유지입니다. 일관성이 유지되면 독자는 글의 주제와 의도를 쉽게 파악하고 따라갈 수 있으며, 글 작성자도 목표를 더욱 효과적으로 전달할 수 있습니다.

하지만 기존의 인공지능 작성 프로그램들은 긴 글 작성에서 일관성이 유지되지 않는 경우가 많았습니다. 이는 글 작성 도중에 요구되는 문맥 이해와 의도 파악, 그리고 토큰 생성 등의 요소에서 발생하는 문제입니다.

2. Unilater 챗 모드란?

2-1. Unilater 챗 모드의 개념과 특징

이러한 문제점을 보완하기 위해 G-ChatBot에서는 Unilater 챗 모드를 제공하고 있습니다. Unilater 챗 모드는 일반적인 챗 모드와는 달리, 작성한 글의 일관성을 유지하면서 새로운 내용을 생성하는 모드입니다. 이는 기존의 챗 모드에서 발생하는 문제점을 보완하고, 일관성 있는 글 작성을 돕는 기능을 제공합니다.

2-2. Unilater 챗 모드의 장점

Unilater 챗 모드를 이용하면 일반적인 챗 모드보다 토큰 사용량을 줄일 수 있습니다. 또한 긴 글을 작성할 때, 일관성이 떨어지는 문제를 해결하면서도 자연스러운 흐름을 유지할 수 있는 장점이 있습니다. 이러한 특징으로 인해 Unilater 챗 모드는 긴 글 작성에 특히 유용합니다.

3. 블로그 글 작성과 Unilater 챗 모드

3-1. Unilater 챗 모드를 활용한 블로그 글 작성 과정

이제 Unilater 챗 모드를 활용하여 블로그 글을 작성하는 과정에 대해 살펴보겠습니다.

이에 대한 내용은 다음 영상을 참고 하시기 바랍니다.

https://youtu.be/uDwO5lSTaHE

3-2. 예시 글 작성 및 결과 분석

먼저, 지금 실험은 ChatGPT 3.5를 기준임을 알려드립니다.

이번에는 결과를 분석해보겠습니다.

https://tobelinuxer.tistory.com/101

[AWS][DynamoDB] DynamoDB에서의 분산 Lock 소개 - 1

위의 작성 글은 이 글의 주제인 unilater 모드를 통해 작성한 글입니다.

걱정과 달리 글이 잘 작성 됬음을 확인하실 수 있습니다.

https://tobelinuxer.tistory.com/102

[AWS][DynamoDB] DynamoDB에서의 분삭 Lock 소개 - 2

위의 작성 글은 일반적인 Chat 모드를 통해 작성한 글입니다.

글이 매끄럽게 잘 써진 것을 확인 하실 수 있습니다.

3-3. 토큰 사용량 분석

위에서 작성한 예시 글과 같이 일반 챗 모드와 Unilater 챗 모드를 비교하여, 토큰 사용량을 분석해보았습니다.

먼저 일반 챗 모드 토큰 사용량입니다. 글의 내용이 다르기 때문에 다소 차이가 발생합니다. 이를 고려하여 분석하도록 하겠습니다.

Chat Mode

저는 개인키를 사용중에 있기 때문에 Private Key Usage에서 토큰 사용량을 확인해보겠습니다. 토큰 사용량이 글 작성 전 20,309 임을 확인하였습니다.

토큰 사용량이 글 작성 후에는 40,370 임을 확인하였습니다. 그리고 작성한 글의 토큰 수는 아래와 같이 9,024 임을 확인하였습니다.

Unilater Mode

해당 글을 다른 날 작성했기 때문에, 토큰 사용량이 다릅니다. 이 모드로 작성 전에는 아래 그림과 같이 96,192 를 사용 중에 있었습니다.

글 작성 완료된 후에는 108,453 만큼 사용했습니다.

작성한 글의 토큰의 수는 아래 그림 처럼 9,885임을 확인할 수 있습니다.

Mode	작성 글 토큰 수	사용한 토큰 수	효율 ( 작성 글 / 사용 토큰 * 100 )
Chat	9,024	20,061	44 %
Unilater	9,885	12261	81 %

이 예시에서는 Unilater 모드에서 글을 작성할 때 Chat 모드에 비해 약 184 % 토큰 효율이 좋은 것을 확인 할 수 있었습니다. 일단 글 수준이 비슷하다고 가정하에 Unilater 모드의 압승이라고 판단됩니다.

4. 결론

본 블로그 글에서는 G-ChatBot의 unilater 챗 모드에 대해 알아보았습니다. Unilater 챗 모드는 자연스러운 흐름을 유지하면서 긴 글 작성을 돕고, 일관성 있는 글 작성을 지원해줍니다. 또한, 토큰 사용량도 효율적으로 줄일 수 있는 장점이 있습니다.

하지만, Unilater 챗 모드가 항상 일관성을 유지해준다는 보장은 없습니다. 글 작성에 대한 내용과 구조를 충분히 고민하고, 발전된 AI 기술을 이용하여 더욱 정교한 모델을 구현해나가야 합니다.

앞으로 Unilater 챗 모드와 같은 G-ChatBot의 AI 기술이 더욱 발전해서, 보다 편리하게 글 작성을 돕는 기능으로 발전할 수 있기를 기대합니다.