Всегда ли нужно использовать транзакции при работе с базой данных

Нет, транзакции нужны не всегда. Они требуются только при операциях, где важна атомарность (все или ничего), согласованность (валидность данных) и изоляция (контроль параллельного доступа).

Примеры, когда транзакции не нужны:

• Простые SELECT-запросы без изменения данных
• Одиночные INSERT/UPDATE, где нет риска нарушения целостности

Пример, когда транзакция обязательна:

try (Connection conn = dataSource.getConnection()) {
    conn.setAutoCommit(false);
    // Переводим деньги между счетами
    withdraw(conn, fromAccount, amount);
    deposit(conn, toAccount, amount);
    conn.commit();
} catch (SQLException e) {
    conn.rollback();
}

Использование транзакций всегда добавляет накладные расходы, поэтому их следует применять обдуманно.