Nie znam się, więc się wypowiem.

Skoro AZW3 jest spakowanym EPUB3 który też jest spakowany, to sama kompresja będzie niewielka (pomijalna), a trzeba zachować dodatkowe dane kolejnej warstwy archiwum, stąd te dodatkowe 40KB.

Konwertowałeś to wielokrotnie, więc na każdym etapie mogło nastąpić jakieś zubożenie zawartości (znaki opcjonalnego podziału słów, zamiana pauz, półpauz i dywizów na jeden znak, twardych spacji na zwykłe, generalnie na coś, co zabiera mniej miejsca). Tak samo style, przy tylokrotnym przepisywaniu mogły coś zgubić. Z resztą, może w wejściowym pliku wygląd każdego akapitu był definiowany oddzielnie, a w ostatecznym jako styl, co zaoszczędziło trochę bitów.

Dokumentacja gdzieś pewnie będzie, a nawet jeżeli nie, to skoro Calibre potrafi to skonwertować, a jego kod jest dostępny, to poprzez jego analizę jego możesz dojść do tego jak tworzy plik KF8 i zrobić to samemu (np. eliminując Calibre'owskie śmieci).