[잡담] AI서비스들 메모리 기능들이 참 아쉽네

[라스트리스]

AI서비스들 메모리 기능들이 참 아쉽네

현재로선 한 대화당 할당된 토큰이 칼같이 정해져 있어서 암만 용량이 늘고 해도 작정하고 하루종일 대화하면 토큰 호로록 녹고 대답 품질도 체감되게 멍청해지는데

메모리 기능 이용하면 한 대화에서 이전 대화 내용들 간접적으로 호출해서 연속적인 대화를 이어가는 게 가능해진지 꽤 됨.

여기서 더 발전하면 토큰 제한이 사실상 별 의미가 없어질 정도로 연속성을 구현할 수 있을 것 같은데 이건 힘든건가 아직

[고양이육구]

그 기억기능이란게 서비스해주는 쪽에서 만들고 제공하는건데
토큰읽고인식하는게 제미니기준 백만자?이상이라고해서 이전대화들 인식하고 나오긴해도
그걸 무조건따르지도않아서

[라스트리스]

이전 대화들 맥락을 그냥 통째로 기억하는 건 진짜 말이 안되는지라 나름대로 핵심만 요약해서 메모리에 반영하는 구조인데, 이게 가끔은 부자연스러운 게 아쉬움 ㅋㅋ

[고양이육구]

기능적으론 통째로다시읽히는게되는데
그럼 사용자 비용이 너무늘어날테니까

[고양이육구]

근데 서비스업체따라서 작성가능토큰제한없음 그 요약기억이라도 읽히면서하면덜하긴함

[라스트리스]

퍼플렉시티하고 제미니 병용중인데 퍼플렉시티가 아주 미세하게 더 널널하다는 느낌은 있음

[아델그라프]

이게 유저노트랑 메모랑 다활용해도 지가 스스로 변질시키기도하고 참..