Change the default value of max_prepared_transactions to zero, and add
authorTom Lane <tgl@sss.pgh.pa.us>
Thu, 23 Apr 2009 00:23:46 +0000 (00:23 +0000)
committerTom Lane <tgl@sss.pgh.pa.us>
Thu, 23 Apr 2009 00:23:46 +0000 (00:23 +0000)
documentation warnings against setting it nonzero unless active use of
prepared transactions is intended and a suitable transaction manager has been
installed.  This should help to prevent the type of scenario we've seen
several times now where a prepared transaction is forgotten and eventually
causes severe maintenance problems (or even anti-wraparound shutdown).

The only real reason we had the default be nonzero in the first place was to
support regression testing of the feature.  To still be able to do that,
tweak pg_regress to force a nonzero value during "make check".  Since we
cannot force a nonzero value in "make installcheck", add a variant regression
test "expected" file that shows the results that will be obtained when
max_prepared_transactions is zero.

Also, extend the HINT messages for transaction wraparound warnings to mention
the possibility that old prepared transactions are causing the problem.

All per today's discussion.

doc/src/sgml/config.sgml
doc/src/sgml/ref/prepare_transaction.sgml
src/backend/access/transam/twophase.c
src/backend/access/transam/varsup.c
src/backend/utils/misc/guc.c
src/backend/utils/misc/postgresql.conf.sample
src/test/regress/expected/prepared_xacts.out
src/test/regress/expected/prepared_xacts_1.out [new file with mode: 0644]
src/test/regress/pg_regress.c
src/test/regress/sql/prepared_xacts.sql

index dcc65f1f894b0a8d54a05b3ef8093859d0dfbd0c..ddac5532f87370a1476c44b7dfa41a6cb743e60d 100644 (file)
@@ -785,18 +785,18 @@ SET ENABLE_SEQSCAN TO OFF;
         <quote>prepared</> state simultaneously (see <xref
         linkend="sql-prepare-transaction"
         endterm="sql-prepare-transaction-title">).
-        Setting this parameter to zero disables the prepared-transaction
-        feature.
-        The default is five transactions.
+        Setting this parameter to zero (which is the default)
+        disables the prepared-transaction feature.
         This parameter can only be set at server start.
        </para>
 
        <para>
-        If you are not using prepared transactions, this parameter may as
-        well be set to zero.  If you are using them, you will probably
-        want <varname>max_prepared_transactions</varname> to be at least
-        as large as <xref linkend="guc-max-connections">, to avoid unwanted
-        failures at the prepare step.
+        If you are not planning to use prepared transactions, this parameter
+        should be set to zero to prevent accidental creation of prepared
+        transactions.  If you are using prepared transactions, you will
+        probably want <varname>max_prepared_transactions</varname> to be at
+        least as large as <xref linkend="guc-max-connections">, so that every
+        session can have a prepared transaction pending.
        </para>
 
        <para>
index ed081b084a3a6e145432d5b24d23cd66e95389f9..0a28092527acbf8f6246309fbc6cdf0bda1b67b3 100644 (file)
@@ -30,7 +30,7 @@ PREPARE TRANSACTION <replaceable class="PARAMETER">transaction_id</replaceable>
 
   <para>
    <command>PREPARE TRANSACTION</command> prepares the current transaction
-   for two-phase commit. After this command, the transaction is no longer 
+   for two-phase commit. After this command, the transaction is no longer
    associated with the current session; instead, its state is fully stored on
    disk, and there is a very high probability that it can be committed
    successfully, even if a database crash occurs before the commit is
@@ -100,7 +100,7 @@ PREPARE TRANSACTION <replaceable class="PARAMETER">transaction_id</replaceable>
    If the transaction modified any run-time parameters with <command>SET</>
    (without the <literal>LOCAL</> option),
    those effects persist after <command>PREPARE TRANSACTION</>, and will not
-   be affected by any later <command>COMMIT PREPARED</command> or 
+   be affected by any later <command>COMMIT PREPARED</command> or
    <command>ROLLBACK PREPARED</command>.  Thus, in this one respect
    <command>PREPARE TRANSACTION</> acts more like <command>COMMIT</> than
    <command>ROLLBACK</>.
@@ -112,26 +112,28 @@ PREPARE TRANSACTION <replaceable class="PARAMETER">transaction_id</replaceable>
    system view.
   </para>
 
-  <para>
-   From a performance standpoint, it is unwise to leave transactions in
-   the prepared state for a long time: this will for instance interfere with
-   the ability of <command>VACUUM</> to reclaim storage.  Keep in mind also
-   that the transaction continues to hold whatever locks it held.
-   The intended
-   usage of the feature is that a prepared transaction will normally be
-   committed or rolled back as soon as an external transaction manager
-   has verified that other databases are also prepared to commit.
-  </para>
-
-  <para>
-   If you make any serious use of prepared transactions, you will probably
-   want to increase the value of <xref
-   linkend="guc-max-prepared-transactions">, as the default setting is
-   quite small (to avoid wasting resources for those who don't use it).
-   It is recommendable to make it at least equal to
-   <xref linkend="guc-max-connections">, so that every session can have
-   a prepared transaction pending.
-  </para>
+  <caution>
+   <para>
+    It is unwise to leave transactions in the prepared state for a long time.
+    This will interfere with the ability of <command>VACUUM</> to reclaim
+    storage, and in extreme cases could cause the database to shut down
+    to prevent transaction ID wraparound (see <xref
+    linkend="vacuum-for-wraparound">).  Keep in mind also that the transaction
+    continues to hold whatever locks it held.  The intended usage of the
+    feature is that a prepared transaction will normally be committed or
+    rolled back as soon as an external transaction manager has verified that
+    other databases are also prepared to commit.
+   </para>
+
+   <para>
+    If you have not set up an external transaction manager to track prepared
+    transactions and ensure they get closed out promptly, it is best to keep
+    the prepared-transaction feature disabled by setting
+    <xref linkend="guc-max-prepared-transactions"> to zero.  This will
+    prevent accidental creation of prepared transactions that might then
+    be forgotten and eventually cause problems.
+   </para>
+  </caution>
  </refsect1>
 
  <refsect1 id="sql-prepare-transaction-examples">
@@ -139,7 +141,7 @@ PREPARE TRANSACTION <replaceable class="PARAMETER">transaction_id</replaceable>
   <para>
    Prepare the current transaction for two-phase commit, using
    <literal>foobar</> as the transaction identifier:
-   
+
 <programlisting>
 PREPARE TRANSACTION 'foobar';
 </programlisting>
index eb3f34183f49e5c6f357b0f743d05c69c1b92a90..6a17a5ddb8699b84aa31ae70592337cfef409211 100644 (file)
@@ -68,7 +68,7 @@
 #define TWOPHASE_DIR "pg_twophase"
 
 /* GUC variable, can't be changed after startup */
-int                    max_prepared_xacts = 5;
+int                    max_prepared_xacts = 0;
 
 /*
  * This struct describes one global transaction that is in prepared state
@@ -228,6 +228,13 @@ MarkAsPreparing(TransactionId xid, const char *gid,
                                 errmsg("transaction identifier \"%s\" is too long",
                                                gid)));
 
+       /* fail immediately if feature is disabled */
+       if (max_prepared_xacts == 0)
+               ereport(ERROR,
+                               (errcode(ERRCODE_OBJECT_NOT_IN_PREREQUISITE_STATE),
+                                errmsg("prepared transactions are disabled"),
+                                errhint("Set max_prepared_transactions to a nonzero value.")));
+
        LWLockAcquire(TwoPhaseStateLock, LW_EXCLUSIVE);
 
        /*
index 16a75346e8b2d7ebcca30baacdc256c83d0427a1..54060c619c578259d39b3fd5b02e09e4453f8aea 100644 (file)
@@ -86,14 +86,16 @@ GetNewTransactionId(bool isSubXact)
                                        (errcode(ERRCODE_PROGRAM_LIMIT_EXCEEDED),
                                         errmsg("database is not accepting commands to avoid wraparound data loss in database \"%s\"",
                                                        NameStr(ShmemVariableCache->limit_datname)),
-                                        errhint("Stop the postmaster and use a standalone backend to vacuum database \"%s\".",
+                                        errhint("Stop the postmaster and use a standalone backend to vacuum database \"%s\".\n"
+                                                        "You might also need to commit or roll back old prepared transactions.",
                                                         NameStr(ShmemVariableCache->limit_datname))));
                else if (TransactionIdFollowsOrEquals(xid, ShmemVariableCache->xidWarnLimit))
                        ereport(WARNING,
                        (errmsg("database \"%s\" must be vacuumed within %u transactions",
                                        NameStr(ShmemVariableCache->limit_datname),
                                        ShmemVariableCache->xidWrapLimit - xid),
-                        errhint("To avoid a database shutdown, execute a database-wide VACUUM in \"%s\".",
+                        errhint("To avoid a database shutdown, execute a database-wide VACUUM in \"%s\".\n"
+                                        "You might also need to commit or roll back old prepared transactions.",
                                         NameStr(ShmemVariableCache->limit_datname))));
        }
 
@@ -299,7 +301,8 @@ SetTransactionIdLimit(TransactionId oldest_datfrozenxid,
                   (errmsg("database \"%s\" must be vacuumed within %u transactions",
                                   NameStr(*oldest_datname),
                                   xidWrapLimit - curXid),
-                       errhint("To avoid a database shutdown, execute a database-wide VACUUM in \"%s\".",
+                       errhint("To avoid a database shutdown, execute a database-wide VACUUM in \"%s\".\n"
+                                       "You might also need to commit or roll back old prepared transactions.",
                                        NameStr(*oldest_datname))));
 }
 
index d7215e2c40ed606f8cddc8d9c751c9f3f2b472eb..e343453d415843c83763feab2af6eee0ac283832 100644 (file)
@@ -1504,7 +1504,7 @@ static struct config_int ConfigureNamesInt[] =
                        NULL
                },
                &max_prepared_xacts,
-               5, 0, INT_MAX, NULL, NULL
+               0, 0, INT_MAX / 4, NULL, NULL
        },
 
 #ifdef LOCK_DEBUG
index 1e9379ac2f110f674c2cce12fe659b0eb4ad1bb6..3f7b43f0ccc54d0a966a886a575d4cc32cb61217 100644 (file)
 #shared_buffers = 32MB                 # min 128kB
                                        # (change requires restart)
 #temp_buffers = 8MB                    # min 800kB
-#max_prepared_transactions = 5         # can be 0 or more
+#max_prepared_transactions = 0         # zero disables the feature
                                        # (change requires restart)
 # Note:  Increasing max_prepared_transactions costs ~600 bytes of shared memory
 # per transaction slot, plus lock space (see max_locks_per_transaction).
+# It is not advisable to set max_prepared_transactions nonzero unless you
+# actively intend to use prepared transactions.
 #work_mem = 1MB                                # min 64kB
 #maintenance_work_mem = 16MB           # min 1MB
 #max_stack_depth = 2MB                 # min 100kB
index 535dbe4cbf5fd792b4280ae754de5b949742cb93..292962ab7b3d7f04eb363cea5138079f2ed6d6a4 100644 (file)
@@ -214,4 +214,6 @@ SELECT gid FROM pg_prepared_xacts;
 
 -- Clean up
 DROP TABLE pxtest2;
+DROP TABLE pxtest3;  -- will still be there if prepared xacts are disabled
+ERROR:  table "pxtest3" does not exist
 DROP TABLE pxtest4;
diff --git a/src/test/regress/expected/prepared_xacts_1.out b/src/test/regress/expected/prepared_xacts_1.out
new file mode 100644 (file)
index 0000000..991a11b
--- /dev/null
@@ -0,0 +1,223 @@
+--
+-- PREPARED TRANSACTIONS (two-phase commit)
+--
+-- We can't readily test persistence of prepared xacts within the
+-- regression script framework, unfortunately.  Note that a crash
+-- isn't really needed ... stopping and starting the postmaster would
+-- be enough, but we can't even do that here.
+-- create a simple table that we'll use in the tests
+CREATE TABLE pxtest1 (foobar VARCHAR(10));
+INSERT INTO pxtest1 VALUES ('aaa');
+-- Test PREPARE TRANSACTION
+BEGIN;
+UPDATE pxtest1 SET foobar = 'bbb' WHERE foobar = 'aaa';
+SELECT * FROM pxtest1;
+ foobar 
+--------
+ bbb
+(1 row)
+
+PREPARE TRANSACTION 'foo1';
+ERROR:  prepared transactions are disabled
+HINT:  Set max_prepared_transactions to a nonzero value.
+SELECT * FROM pxtest1;
+ foobar 
+--------
+ aaa
+(1 row)
+
+-- Test pg_prepared_xacts system view
+SELECT gid FROM pg_prepared_xacts;
+ gid 
+-----
+(0 rows)
+
+-- Test ROLLBACK PREPARED
+ROLLBACK PREPARED 'foo1';
+ERROR:  prepared transaction with identifier "foo1" does not exist
+SELECT * FROM pxtest1;
+ foobar 
+--------
+ aaa
+(1 row)
+
+SELECT gid FROM pg_prepared_xacts;
+ gid 
+-----
+(0 rows)
+
+-- Test COMMIT PREPARED
+BEGIN;
+INSERT INTO pxtest1 VALUES ('ddd');
+SELECT * FROM pxtest1;
+ foobar 
+--------
+ aaa
+ ddd
+(2 rows)
+
+PREPARE TRANSACTION 'foo2';
+ERROR:  prepared transactions are disabled
+HINT:  Set max_prepared_transactions to a nonzero value.
+SELECT * FROM pxtest1;
+ foobar 
+--------
+ aaa
+(1 row)
+
+COMMIT PREPARED 'foo2';
+ERROR:  prepared transaction with identifier "foo2" does not exist
+SELECT * FROM pxtest1;
+ foobar 
+--------
+ aaa
+(1 row)
+
+-- Test duplicate gids
+BEGIN;
+UPDATE pxtest1 SET foobar = 'eee' WHERE foobar = 'ddd';
+SELECT * FROM pxtest1;
+ foobar 
+--------
+ aaa
+(1 row)
+
+PREPARE TRANSACTION 'foo3';
+ERROR:  prepared transactions are disabled
+HINT:  Set max_prepared_transactions to a nonzero value.
+SELECT gid FROM pg_prepared_xacts;
+ gid 
+-----
+(0 rows)
+
+BEGIN;
+INSERT INTO pxtest1 VALUES ('fff');
+SELECT * FROM pxtest1;
+ foobar 
+--------
+ aaa
+ fff
+(2 rows)
+
+-- This should fail, because the gid foo3 is already in use
+PREPARE TRANSACTION 'foo3';
+ERROR:  prepared transactions are disabled
+HINT:  Set max_prepared_transactions to a nonzero value.
+SELECT * FROM pxtest1;
+ foobar 
+--------
+ aaa
+(1 row)
+
+ROLLBACK PREPARED 'foo3';
+ERROR:  prepared transaction with identifier "foo3" does not exist
+SELECT * FROM pxtest1;
+ foobar 
+--------
+ aaa
+(1 row)
+
+-- Clean up
+DROP TABLE pxtest1;
+-- Test subtransactions
+BEGIN;
+  CREATE TABLE pxtest2 (a int);
+  INSERT INTO pxtest2 VALUES (1);
+  SAVEPOINT a;
+    INSERT INTO pxtest2 VALUES (2);
+  ROLLBACK TO a;
+  SAVEPOINT b;
+  INSERT INTO pxtest2 VALUES (3);
+PREPARE TRANSACTION 'regress-one';
+ERROR:  prepared transactions are disabled
+HINT:  Set max_prepared_transactions to a nonzero value.
+CREATE TABLE pxtest3(fff int);
+-- Test shared invalidation
+BEGIN;
+  DROP TABLE pxtest3;
+  CREATE TABLE pxtest4 (a int);
+  INSERT INTO pxtest4 VALUES (1);
+  INSERT INTO pxtest4 VALUES (2);
+  DECLARE foo CURSOR FOR SELECT * FROM pxtest4;
+  -- Fetch 1 tuple, keeping the cursor open
+  FETCH 1 FROM foo;
+ a 
+---
+ 1
+(1 row)
+
+PREPARE TRANSACTION 'regress-two';
+ERROR:  prepared transactions are disabled
+HINT:  Set max_prepared_transactions to a nonzero value.
+-- No such cursor
+FETCH 1 FROM foo;
+ERROR:  cursor "foo" does not exist
+-- Table doesn't exist, the creation hasn't been committed yet
+SELECT * FROM pxtest2;
+ERROR:  relation "pxtest2" does not exist
+LINE 1: SELECT * FROM pxtest2;
+                      ^
+-- There should be two prepared transactions
+SELECT gid FROM pg_prepared_xacts;
+ gid 
+-----
+(0 rows)
+
+-- pxtest3 should be locked because of the pending DROP
+set statement_timeout to 2000;
+SELECT * FROM pxtest3;
+ fff 
+-----
+(0 rows)
+
+reset statement_timeout;
+-- Disconnect, we will continue testing in a different backend
+\c -
+-- There should still be two prepared transactions
+SELECT gid FROM pg_prepared_xacts;
+ gid 
+-----
+(0 rows)
+
+-- pxtest3 should still be locked because of the pending DROP
+set statement_timeout to 2000;
+SELECT * FROM pxtest3;
+ fff 
+-----
+(0 rows)
+
+reset statement_timeout;
+-- Commit table creation
+COMMIT PREPARED 'regress-one';
+ERROR:  prepared transaction with identifier "regress-one" does not exist
+\d pxtest2
+SELECT * FROM pxtest2;
+ERROR:  relation "pxtest2" does not exist
+LINE 1: SELECT * FROM pxtest2;
+                      ^
+-- There should be one prepared transaction
+SELECT gid FROM pg_prepared_xacts;
+ gid 
+-----
+(0 rows)
+
+-- Commit table drop
+COMMIT PREPARED 'regress-two';
+ERROR:  prepared transaction with identifier "regress-two" does not exist
+SELECT * FROM pxtest3;
+ fff 
+-----
+(0 rows)
+
+-- There should be no prepared transactions
+SELECT gid FROM pg_prepared_xacts;
+ gid 
+-----
+(0 rows)
+
+-- Clean up
+DROP TABLE pxtest2;
+ERROR:  table "pxtest2" does not exist
+DROP TABLE pxtest3;  -- will still be there if prepared xacts are disabled
+DROP TABLE pxtest4;
+ERROR:  table "pxtest4" does not exist
index 1cd804aa7430ad8246ccb5f4c3cf8bb12d070f59..34797ddfdf04a4f8c2c8e62fd86e3938873801ee 100644 (file)
@@ -2037,6 +2037,8 @@ regression_main(int argc, char *argv[], init_function ifunc, test_function tfunc
 
        if (temp_install)
        {
+               FILE       *pg_conf;
+
                /*
                 * Prepare the temp installation
                 */
@@ -2092,20 +2094,29 @@ regression_main(int argc, char *argv[], init_function ifunc, test_function tfunc
                        exit_nicely(2);
                }
 
-               /* add any extra config specified to the postgresql.conf */
+               /*
+                * Adjust the default postgresql.conf as needed for regression testing.
+                * The user can specify a file to be appended; in any case we set
+                * max_prepared_transactions to enable testing of prepared xacts.
+                * (Note: to reduce the probability of unexpected shmmax failures,
+                * don't set max_prepared_transactions any higher than actually
+                * needed by the prepared_xacts regression test.)
+                */
+               snprintf(buf, sizeof(buf), "%s/data/postgresql.conf", temp_install);
+               pg_conf = fopen(buf, "a");
+               if (pg_conf == NULL)
+               {
+                       fprintf(stderr, _("\n%s: could not open \"%s\" for adding extra config: %s\n"), progname, buf, strerror(errno));
+                       exit_nicely(2);
+               }
+               fputs("\n# Configuration added by pg_regress\n\n", pg_conf);
+               fputs("max_prepared_transactions = 2\n", pg_conf);
+
                if (temp_config != NULL)
                {
                        FILE       *extra_conf;
-                       FILE       *pg_conf;
                        char            line_buf[1024];
 
-                       snprintf(buf, sizeof(buf), "%s/data/postgresql.conf", temp_install);
-                       pg_conf = fopen(buf, "a");
-                       if (pg_conf == NULL)
-                       {
-                               fprintf(stderr, _("\n%s: could not open \"%s\" for adding extra config: %s\n"), progname, buf, strerror(errno));
-                               exit_nicely(2);
-                       }
                        extra_conf = fopen(temp_config, "r");
                        if (extra_conf == NULL)
                        {
@@ -2115,9 +2126,10 @@ regression_main(int argc, char *argv[], init_function ifunc, test_function tfunc
                        while (fgets(line_buf, sizeof(line_buf), extra_conf) != NULL)
                                fputs(line_buf, pg_conf);
                        fclose(extra_conf);
-                       fclose(pg_conf);
                }
 
+               fclose(pg_conf);
+
                /*
                 * Check if there is a postmaster running already.
                 */
index 337567271de1da450372dc3776b1390967ed971f..39d323a15b69a94450bf96fd3ccfe4b419446c63 100644 (file)
@@ -134,4 +134,5 @@ SELECT gid FROM pg_prepared_xacts;
 
 -- Clean up
 DROP TABLE pxtest2;
+DROP TABLE pxtest3;  -- will still be there if prepared xacts are disabled
 DROP TABLE pxtest4;