Умножаете площадь дна (школьный курс геометрии, можно освежить формулы в яндексе) на нужную вам толщину слоя (в среднем, допустим - 5 см.) - и получаете объем грунта в литрах. Не вес, а объем.
В зависимости от фракции и породы один литр грунта весит 1,6-1,9 кг.
Пересчитываете.
И заказываете.

В сети есть для ленивых калькуляторы грунта, но я их не видел для угловых банок...

Хотя можете подсчитать, например, этим на прмоугольное дно, равное двум вашим и поделить на два. Примерно получите то, что нужно.

Для обычного, прямоугольного 1кг на 10л воды. Достаточный минимум получается. Около 3-4см, в зависимости от формы аквариума.
Но лучше по формуле, как выше предложили. А мои расчёты для прикидки подойдут.