midGPT是一个基于Jax和Equinox的可实验性LLM预训练仓库，支持大型模型跨多设备训练。