Puisi biasanya terkenal dengan rimanya, termasuk skema rima yang terkadang cukup kompleks. Namun, ada banyak jenis puisi yang tidak berima. Salah satu yang paling terkenal adalah haiku, bentuk puisi Jepang pendek yang sangat dikagumi oleh banyak penyair Barat. Yang lain lebih peduli dengan bentuk puisi di halaman, seperti puisi konkret dan akrostik. Syair kosong dan syair bebas adalah format non-sajak yang digunakan oleh banyak penyair modern.
Salah satu bentuk sastra tertua, puisi mungkin mendahului kata-kata tertulis itu sendiri. Penyair kuno sering menggunakan sajak untuk membuat sejarah lisan mereka lebih mudah diingat selama era ketika kebanyakan orang buta huruf. Penyair Abad Pertengahan menciptakan sajak dan skema ritme yang rumit, seperti pentameter iambik, yang dicintai Shakespeare, dan terza rima, yang ditemukan oleh Dante. Banyak penyair, terutama dari era modern, membuang sajak dan berfokus pada aspek lain dari puisi itu. Beberapa puisi ini adalah hal baru yang aneh, sementara yang lain terdaftar di antara yang terbesar yang pernah ditulis.
Haiku adalah puisi non-sajak yang terdiri dari tiga baris, masing-masing berisi sejumlah suku kata: lima, lalu tujuh, dan kemudian lima lagi. Formatnya dikembangkan dari permainan puisi yang disebut renga yang dibuat oleh penyair Jepang pada abad ke-12. Secara teknis, haiku seharusnya hanya merupakan perenungan alam yang tenang; jika subjek lain dipanggil, puisi itu adalah senryu. Perbedaan ini sering diabaikan oleh penyair Barat, banyak di antaranya mengagumi haiku karena keteraturan dan singkatnya. Penyair Jepang abad ke-17, Basho, dianggap sebagai ahli bentuk.
Puisi lain didasarkan pada struktur karya, dan skema sajak mungkin tidak diperlukan atau diinginkan. Puisi konkret, kadang disebut puisi bentuk atau ukuran, mencoba menciptakan citra melalui penempatan kata-kata; puisi tentang burung, misalnya, mungkin mirip dengan burung yang melebarkan sayapnya. Sementara beberapa puisi konkret memiliki rima, sebagian besar tidak. Diamante adalah puisi konkret berbentuk berlian. Akrostik, permainan kata yang garis-garisnya disusun sedemikian rupa sehingga membentuk kata-kata ketika dibaca secara horizontal, terkadang berbentuk puisi.
Syair kosong adalah puisi tidak berima yang melekat pada ritme internal, seperti pentameter iambik. Baris dalam sajak kosong harus ditulis dengan hati-hati agar sesuai dengan ritme puisi secara keseluruhan. Syair bebas, seperti namanya, tidak memaksakan batasan seperti itu, memungkinkan penyair untuk mengekspresikan diri mereka sesuka mereka. Beberapa penyair modern terbesar menyukai bentuk ini, termasuk TS Eliot, ee Cummings, dan Allen Ginsberg. Eliot “The Waste Land”, “Howl” Ginsberg, dan “Song of Myself” karya Walt Whitman semuanya adalah puisi non-sajak yang diakui.