# Mixtral 8x7B - Une Open AI offline meilleure que GPT 3.5 dans Gladys?

**URL:** <https://community.gladysassistant.com/t/mixtral-8x7b-une-open-ai-offline-meilleure-que-gpt-3-5-dans-gladys/8743>\
**Category:** Développement\
**Tags:** feature-integration\
**Created:** [Février 28, 2024, 5:27 UTC](https://community.gladysassistant.com/t/mixtral-8x7b-une-open-ai-offline-meilleure-que-gpt-3-5-dans-gladys/8743 "2024-02-28T17:27:23Z")\
**Posts on this page:** 8\
**Page:** 1

<div class="post-metadata">

**Author:** ![cce66](https://gladys-assistant-community.b-cdn.net/letter_avatar_proxy/v4/letter/c/8797f3/32.png) [@cce66](https://community.gladysassistant.com/u/cce66)\
**Post date:** [Février 28, 2024, 5:27 UTC](https://community.gladysassistant.com/t/mixtral-8x7b-une-open-ai-offline-meilleure-que-gpt-3-5-dans-gladys/8743/1 "2024-02-28T17:27:24Z")

</div>

Une Open AI dans Gladys ? Si un crazy dev est dans la salle !!! 🤪

A voir c’est apparemment bluffant !!!

[![](https://img.youtube.com/vi/mc2Qli9ImOI/maxresdefault.jpg "ChatGPT vient de se faire détrôner par des génies français") ](https://www.youtube.com/watch?v=mc2Qli9ImOI)

> **[Mixtral of experts](https://mistral.ai/news/mixtral-of-experts/)**
>
> A high quality Sparse Mixture-of-Experts.

> **[Configurer Raspberry Pi OS Desktop sur VMware Workstation – RaspberryTips](https://raspberrytips.fr/utiliser-raspberry-pi-os-vmware/?utm_source=newsletter&utm_medium=email&utm_campaign=raspberry_pi_os_sans_raspberry_pi&utm_term=2024-02-28)**

---

<div class="post-metadata">

**Author:** ![guim31](https://gladys-assistant-community.b-cdn.net/user_avatar/community.gladysassistant.com/guim31/32/4840_2.png) [@guim31](https://community.gladysassistant.com/u/guim31)\
**Post date:** [Février 28, 2024, 9:42 UTC](https://community.gladysassistant.com/t/mixtral-8x7b-une-open-ai-offline-meilleure-que-gpt-3-5-dans-gladys/8743/2 "2024-02-28T21:42:11Z")

</div>

Je suis pas un grand spécialiste des IA et de leur fonctionnement, mais il est certain que ChatGPT devient une option parmi d’autres.

Moi je lorgne ça : [GitHub - mudler/LocalAI: 🤖 The free, Open Source OpenAI alternative. Self-hosted, community-driven and local-first. Drop-in replacement for OpenAI running on consumer-grade hardware. No GPU required. Runs gguf, transformers, diffusers and many more models architectures. It allows to generate Text, Audio, Video, Images. Also with voice cloning capabilities.](https://github.com/mudler/LocalAI)

---

<div class="post-metadata">

**Author:** ![cce66](https://gladys-assistant-community.b-cdn.net/letter_avatar_proxy/v4/letter/c/8797f3/32.png) [@cce66](https://community.gladysassistant.com/u/cce66)\
**Post date:** [Février 28, 2024, 11:53 UTC](https://community.gladysassistant.com/t/mixtral-8x7b-une-open-ai-offline-meilleure-que-gpt-3-5-dans-gladys/8743/3 "2024-02-28T23:53:59Z")

</div>

Eeeehhh super intéressant @guim31, installable en container et plein de features qui serait intéressante d’interfacer avec Gladys…@pierre-gilles si tu nous écoutes ! 🤪

 ![image](https://gladys-assistant-community.b-cdn.net/uploads/default/original/2X/1/1c3c3a75edeb054185d1f1f549734de194dd3990.png)

---

<div class="post-metadata">

**Author:** ![lmilcent](https://gladys-assistant-community.b-cdn.net/user_avatar/community.gladysassistant.com/lmilcent/32/7023_2.png) [@lmilcent](https://community.gladysassistant.com/u/lmilcent)\
**Post date:** [Mars 23, 2024, 7:39 UTC](https://community.gladysassistant.com/t/mixtral-8x7b-une-open-ai-offline-meilleure-que-gpt-3-5-dans-gladys/8743/4 "2024-03-23T19:39:25Z")

</div>

Très intéressant, mais ça doit pas être très prartiquea utiliser ou rapide a tourner sur un Raspberry…

---

<div class="post-metadata">

**Author:** ![dahut](https://gladys-assistant-community.b-cdn.net/letter_avatar_proxy/v4/letter/d/e56c9b/32.png) [@dahut](https://community.gladysassistant.com/u/dahut)\
**Post date:** [Mars 24, 2024, 10:04 UTC](https://community.gladysassistant.com/t/mixtral-8x7b-une-open-ai-offline-meilleure-que-gpt-3-5-dans-gladys/8743/5 "2024-03-24T10:04:26Z")

</div>

Tu as des versions très légères de un ou 2 Go qui tournent avec moins de 4 Go de RAM Et qui peut sûrement suffire.  
Après sur un micro PC ça devrait peut-être plus tourner.

Ça peut donner des idées :

[![](https://img.youtube.com/vi/qYB0wyoRB4w/maxresdefault.jpg "Ollama + Open WebUI : l'IA LLM opensource, gratuite, auto-hébergée et sécurisée sous Docker !") ](https://www.youtube.com/watch?v=qYB0wyoRB4w)

---

<div class="post-metadata">

**Author:** ![pierre-gilles](https://gladys-assistant-community.b-cdn.net/user_avatar/community.gladysassistant.com/pierre-gilles/32/5886_2.png) [@pierre-gilles](https://community.gladysassistant.com/u/pierre-gilles)\
**Post date:** [Mars 24, 2024, 11:01 UTC](https://community.gladysassistant.com/t/mixtral-8x7b-une-open-ai-offline-meilleure-que-gpt-3-5-dans-gladys/8743/6 "2024-03-24T11:01:33Z")

</div>

Il faut quand même un bon GPU 😁

---

<div class="post-metadata">

**Author:** ![dahut](https://gladys-assistant-community.b-cdn.net/letter_avatar_proxy/v4/letter/d/e56c9b/32.png) [@dahut](https://community.gladysassistant.com/u/dahut)\
**Post date:** [Mars 24, 2024, 1:14 UTC](https://community.gladysassistant.com/t/mixtral-8x7b-une-open-ai-offline-meilleure-que-gpt-3-5-dans-gladys/8743/7 "2024-03-24T13:14:47Z")

</div>

Tout à fait, et en plus je crois qu’il faut du NVIDIA car il utilise Les Cuda cores, pour une meilleure optimisation.

---

<div class="post-metadata">

**Author:** ![lmilcent](https://gladys-assistant-community.b-cdn.net/user_avatar/community.gladysassistant.com/lmilcent/32/7023_2.png) [@lmilcent](https://community.gladysassistant.com/u/lmilcent)\
**Post date:** [Mars 25, 2024, 6:53 UTC](https://community.gladysassistant.com/t/mixtral-8x7b-une-open-ai-offline-meilleure-que-gpt-3-5-dans-gladys/8743/8 "2024-03-25T06:53:45Z")

</div>

Vu les perfs que ça demande, c’est encore un peu trop overkill je pense, mais ça reste a surveiller de près, car je pense que ça peut réellement devenir intéressant dans pas si longtemps.
