Там ведь предлагается что-то немного другое. А именно агент с вызовом функций. Вроде из опенсорсных такое можно сделать на базе третьего мистраль (Mistral-7B-Instruct-v0.3) и может быть еще есть подходящие, я уже давно не слежу за новостями в этой области.
...
К слову, эта модель от Mistral доступна не только в виде опенсорс-весов, но и
по АПИ. В случае использования бесплатного АПИ любые интеграции становятся на порядок проще и удобнее.
"агент с вызовом функций", что бы это не значило, звучит как некий инструмент для не понятно каких целей, наверно будет сделать персонаж-бота "Чамби", и добавить его в общий чат в телеграме как равноправного участника.