El grupo se formó a finales de 1966 en San Francisco, por parte de Skip Spence y Matthew Katz. Ambos habían estado asociados previamente con Jefferson Airplane, siendo Spence su primer batería, y haber tocado en su primer álbum, Jefferson Airplane Takes Off, y Katz su manager, aunque ambos habían sido despedidos por el grupo. Katz animó a Spence a formar un grupo similar a Jefferson Airplane, con composiciones variadas y un trabajo vocal compartido por varios miembros, y con Katz como manager. De acuerdo con Peter Lewis, «Matthew (Katz) introdujo el espíritu conflictivo en el grupo. Él no quería una asociación en términos de igualdad. Lo quería todo». Según se determinó judicialmente, el nombre del grupo había sido aportado por Bob Mosley y Spence, y era la respuesta al chiste «¿Qué es grande y púrpura y vive en el oceáno?». El guitarrista Jerry Miller y el batería Don Stevenson (ambos ex miembros de The Frantics, originalmente procedentes de Seattle)[6] se unieron al guitarrista (e hijo de la actriz Loretta Young) Peter Lewis (de The Cornells), al bajista Bob Mosley (de The Misfits, procedentes de San Diego)[7] y Spence, ahora guitarrista en lugar de batería. Jerry Miller y Don Stevenson habían trasladado a The Frantics de Seattle a San Francisco después de conocer en 1965 a Jerry Garcia, que estaba tocando con The Warlocks en un bar de Belmont. Garcia les animó a trasladarse a San Francisco. Cuando The Frantics se hubieron asentado en San Francisco, Mosley se unió al grupo. A pesar de que Jerry Miller era el principal guitarrista solista, los tres guitarristas tenían sus partes solistas y a menudo mezclaban sus partes en un estilo asociado con Moby Grape denominado «crosstalk» o «conversación cruzada». El otro grupo importante con tres guitarristas en aquel ommento era Buffalo Springfield. La música de Moby Grape ha sido descrita por Geoffrey Parr de la siguiente forma: «Ningún otro grupo de rock and roll ha sido capaz de utilizar un trío de guitarras de una forma tan efectiva como consiguieron hacer Moby Grape en su disco Moby Grape. Spence toca un estilo de guitarra rítmica que sobresale en todo el disco. Lewis, mientras tanto, era un muy buen guitarrista en general y sobre todo con los punteos, tal y como se muestra en muchas canciones. Y por último estaba Miller? La forma en que construyeron sus partes y tocaron juntos en Moby Grape no es comparable con nada que haya oído en mi vida