Down There es un álbum más oscuro en comparación con otras contribuciones que ha hecho Portner. Todo el álbum tiene una sensación "acuosa", casi como si la música se estuviera reproduciendo en un pantano. El agua que fluye, los sonidos de los animales y los clips de conversaciones humanas distorsionadas se pueden escuchar en la mayoría de las canciones de este álbum.
Las dos pistas "Heather in the Hospital" y "Lucky 1", que aparecen hacia el final del disco, alguna vez se concibieron como una canción agrupada. Portner luego decidió dividir las pistas en dos piezas separadas después de la grabación, obteniendo sus títulos separados.