VastbaseG100

基于openGauss内核开发的企业级关系型数据库。

Menu

处理大对象

Vastbase G100 libpq客户端接口为访问大对象所提供的功能。大对象接口按照Unix文件系统的接口建模,也有相似的open、read、write、lseek等。

所有使用这些函数对大对象的操作都必须发生在一个SQL事务块中,因为大对象文件描述符只在事务期间有效。

在执行任何一个这种函数期间如果发生一个错误,该函数将会返回一个其他的不可能值,典型的是0或-1。一个关于该错误的消息亦会被保存在连接对象中,可以通过PQerrorMessage检索到。

使用这些函数的客户端应用应该包括头文件libpq/libpq-fs.h并链接libpq库。

创建一个大对象

Vastbase G100 提供lo_creat和lo_create函数创建大对象。

  • lo_crea

    Oid lo_creat(PGconn *conn, int mode);
    

    lo_creat函数创建一个新的大对象。其返回值是分配给这个新大对象的OID或者InvalidOid(0)表示失败。 mode不再使用且会被忽略,为了和以前的发行兼容,它最好被设置为INV_READ、INV_WRITE或INV_READ | INV_WRITE(这些符号常量定义在头文件libpq/libpq-fs.h中)。

    示例:

    inv_oid = lo_creat(conn, INV_READ|INV_WRITE);
    
  • lo_create

    Oid lo_create(PGconn *conn, Oid lobjId);
    

    lo_create函数也创建一个新的大对象。分配给该大对象的OID可以通过lobjId指定,如果该OID已经被某个大对象使用时会产生错误。如果lobjId是InvalidOid(0),则lo_create会分配一个未使用的OID(这时和lo_creat的行为相同)。返回值是分配给新大对象的OID或InvalidOid(0)表示发生错误。 示例:

    inv_oid = lo_create(conn, desired_oid);
    

导入一个大对象

要将一个操作系统文件导入成一个大对象,调用:

  • lo_import

    Oid lo_import(PGconn *conn, const char *filename);
    

    filename指定了要导入为大对象的操作系统文件名。返回值是分配给新大对象的OID或InvalidOid(0)表示发生错误。注意该文件是被客户端接口库而不是服务器所读取,因此它必须存在于客户端文件系统中并且对于客户端应用是可读的。

  • lo_import_with_oid

    Oid lo_import_with_oid(PGconn *conn, const char *filename, Oid lobjId);
    

    也可以导入一个新大对象。分配给新大对象的OID可以用lobjId指定,如果这样做,该OID已经被某个大对象使用时会产生错误。如果lobjId是InvalidOid(0),则lo_import_with_oid会分配一个未使用的OID(这和lo_import的行为相同)。返回值是分配给新大对象的OID或InvalidOid(0)表示发生错误。

导出一个大对象

要把一个大对象导出到一个操作系统文件,调用:

int lo_export(PGconn *conn, Oid lobjId, const char *filename);

lobjId参数指定要导出的大对象的OID,filename参数指定操作系统文件名。注意该文件是被客户端接口库而不是服务器写入。成功返回1,错误返回-1。

打开一个现有的大对象

要打开一个现有的大对象进行读写,调用:

int lo_open(PGconn *conn, Oid lobjId, int mode);

lobjId参数指定要打开的大对象的OID。mode位控制着打开对象是为了只读(INV_READ)、只写(INV_WRITE)或者读写(这些符号常量定义在头文件libpq/libpq-fs.h中)。lo_open返回一个(非负)大对象描述符以便后面用于lo_read、lo_write、lo_lseek、lo_lseek64、lo_tell、lo_tell64、lo_truncate、lo_truncate64以及lo_close。该描述符只在当前事务期间有效。如果打开错误将会返回-1。

服务器目前并不区分模式INV_WRITE和INV_READ |INV_WRITE:在两种情况中都允许从描述符读取。但是在这些模式和单独的INV_READ之间有明显的区别:使用INV_READ我们不能向描述符写入,从中读取的数据则反映了该大对象在活动事务快照时刻的内容(该快照在lo_open被执行时创建),而不管之后被该事务或其他事务写入的内容。从一个以INV_WRITE模式打开的描述符读取的数据所有其他已提交事务以及当前事务所作的写入。这与普通SQL命令 SELECT的REPEATABLE READ和READ COMMITTED事务模式之间的区别相似。

如果大对象的SELECT特权不可用,或者如果在指定了INV_WRITE时UPDATE特权不可用,则lo_open将会失败。这些特权检查可以用lo_compat_privileges运行时参数禁用。

示例:

inv_fd = lo_open(conn, inv_oid, INV_READ|INV_WRITE);

向一个大对象写入数据

调用lo_write向一个大对象写入数据。

int lo_write(PGconn *conn, int fd, const char *buf, size_t len);

从buf(大小必须是 len)中写出len字节到大对象描述符fd。参数fd必须是已经由前面的lo_open返回的大对象描述符。函数将返回实际写入的字节数(在当前的实现中,除非出错,返回的字节数总是等于len)。在出错时,返回值为-1。

参数len被声明为类型size_t,该函数会拒绝超过INT_MAX的长度值。在实际中,被传送的数据最好是每块最多数兆字节。

从一个大对象读取数据

要从一个大对象读取数据,调用:

int lo_read(PGconn *conn, int fd, char *buf, size_t len);

从大对象描述符fd中读取最多len字节到buf (大小必须是len)中。参数fd必须是已经由前面的lo_open返回的大对象描述符。实际读出的字节数将被返回,如果先到达了大对象的末尾返回值可能会小于len。出错时返回值为-1。

参数len被声明为类型size_t,该函数会拒绝超过INT_MAX的长度值。在实际中,被传送的数据最好是每块最多数兆字节。

在一个大对象中查找

要改变一个大对象描述符的当前读或写位置,调用:

int lo_lseek(PGconn *conn, int fd, int offset, int whence);

该函数将大对象文件描述符fd的当前位置指针移动到由offset指定的新位置。whence的可用值是SEEK_SET(从对象开头定位)、SEEK_CUR (从当前位置定位)以及SEEK_END(从对象末尾定位)。返回值是新位置的指针,或者是-1表示出错。

在处理可能超过2GB大小的大对象时,换用

pg_int64 lo_lseek64(PGconn *conn, int fd, pg_int64 offset, int whence);

该函数的行为和lo_lseek相同,但是它能接受一个超过2GB的offset并/或传送一个超过2GB的结果。注意如果新位置的指针超过2GB,lo_lseek会失败。

获取一个大对象的查找位置

要得到一个大对象描述符的当前读或写位置,调用:

int lo_tell(PGconn *conn, int fd);

如果出现错误,返回值是-1。

在处理可能超过2GB大小的大对象时,换用:

pg_int64 lo_tell64(PGconn *conn, int fd);

该函数和lo_tell的行为相同,但是它能传递超过2GB的结果。注意如果当前读/写位置超过2GB,lo_tell将会失败。

截断一个大对象

要将一个大对象截断成一个给定长度,调用:

int lo_truncate(PGcon *conn, int fd, size_t len);

该函数将大对象描述符fd截断为长度len。参数fd必须是已经由前面的lo_open返回的大对象描述符。如果len超过了大对象的当前长度,大对象将会被使用空字节('\0')扩展到指定长度。成功时lo_truncate返回0,失败时返回值为-1。

描述fd的读/写位置不变。

尽管参数len被声明为类型size_t,lo_truncate会拒绝超过INT_MAX的长度值。

在处理可能超过2GB大小的大对象时,换用:

int lo_truncate64(PGcon *conn, int fd, pg_int64 len);

该函数和lo_truncate的行为相同,但它能够接受超过2GB的len值。

关闭一个大对象描述符

要关闭一个大对象描述符,调用:

int lo_close(PGconn *conn, int fd);

其中fd是由lo_open返回的大对象描述符。成功时,lo_close返回0,失败时返回-1。

在事务末尾仍然保持打开的任何大对象描述符都会自动被关闭。

移除一个大对象

要从数据库中移除一个大对象,调用:

int lo_unlink(PGconn *conn, Oid lobjId);

lobjId参数指定要移除的大对象的OID。成功时返回1,失败时返回-1。

示例

#include <stdio.h>
#include <stdlib.h>

#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
#include <unistd.h>

#include "libpq-fe.h"
#include "libpq/libpq-fs.h"

#define BUFSIZE          1024

/*
 * importFile
 *    把文件 "in_filename" 作为一个大对象 "lobjOid" 载入到数据库
 *
 */
static Oid
importFile(PGconn *conn, char *filename)
{
    Oid         lobjId;
    int         lobj_fd;
    char        buf[BUFSIZE];
    int         nbytes,
                tmp;
    int         fd;

    /*
     * 打开要读入的文件
     */
    fd = open(filename, O_RDONLY, 0666);
    if (fd < 0)
    {                           /* error */
        fprintf(stderr, "cannot open unix file\"%s\"\n", filename);
    }

    /*
     * 创建大对象
     */
    lobjId = lo_creat(conn, INV_READ | INV_WRITE);
    if (lobjId == 0)
        fprintf(stderr, "cannot create large object");
	
	/*
     * 打开一个已有大对象
     */
    lobj_fd = lo_open(conn, lobjId, INV_WRITE);

    /*
     * 从该 Unix 文件读取并写入到大对象
     */
    while ((nbytes = read(fd, buf, BUFSIZE)) > 0)
    {
        tmp = lo_write(conn, lobj_fd, buf, nbytes);
        if (tmp < nbytes)
            fprintf(stderr, "error while reading \"%s\"", filename);
    }

    close(fd);
    lo_close(conn, lobj_fd);

    return lobjId;
}

/*
 * pickout
 *    从大对象指定位置读取长度为len的数据
 *
 */
static void
pickout(PGconn *conn, Oid lobjId, int start, int len)
{
    int         lobj_fd;
    char       *buf;
    int         nbytes;
    int         nread;
	
	/* 打开一个已有大对象 */
    lobj_fd = lo_open(conn, lobjId, INV_READ);
    if (lobj_fd < 0)
        fprintf(stderr, "cannot open large object %u", lobjId);

	/* 将大对象文件描述符fd的当前位置指针移动到start位置 */
    lo_lseek(conn, lobj_fd, start, SEEK_SET);
    buf = malloc(len + 1);

    nread = 0;
    while (len - nread > 0)
    {
		/* 从一个大对象读取数据 */
        nbytes = lo_read(conn, lobj_fd, buf, len - nread);
        buf[nbytes] = '\0';
        fprintf(stderr, ">>> %s", buf);
        nread += nbytes;
        if (nbytes <= 0)
            break;              /* no more data? */
    }
    free(buf);
    fprintf(stderr, "\n");
	/* 关闭一个大对象 */
    lo_close(conn, lobj_fd);
}

/*
 * overwrite
 *    向大对象指定位置写入长度为len的数据
 *
 */
static void
overwrite(PGconn *conn, Oid lobjId, int start, int len)
{
    int         lobj_fd;
    char       *buf;
    int         nbytes;
    int         nwritten;
    int         i;

    lobj_fd = lo_open(conn, lobjId, INV_WRITE);
    if (lobj_fd < 0)
        fprintf(stderr, "cannot open large object %u", lobjId);

	/* 将大对象文件描述符fd的当前位置指针移动到start位置 */
    lo_lseek(conn, lobj_fd, start, SEEK_SET);
    buf = malloc(len + 1);

    for (i = 0; i < len; i++)
        buf[i] = 'X';
    buf[i] = '\0';

    nwritten = 0;
    while (len - nwritten > 0)
    {
		/* 向大对象写入数据 */
        nbytes = lo_write(conn, lobj_fd, buf + nwritten, len - nwritten);
        nwritten += nbytes;
        if (nbytes <= 0)
        {
            fprintf(stderr, "\nWRITE FAILED!\n");
            break;
        }
    }
    free(buf);
    fprintf(stderr, "\n");
    lo_close(conn, lobj_fd);
}

/*
 * exportFile -
 *    把大对象 "lobjOid" 导出成文件 "out_filename"
 *
 */
static void
exportFile(PGconn *conn, Oid lobjId, char *filename)
{
    int         lobj_fd;
    char        buf[BUFSIZE];
    int         nbytes,
                tmp;
    int         fd;

    /*
     * 打开大对象
     */
    lobj_fd = lo_open(conn, lobjId, INV_READ);
    if (lobj_fd < 0)
        fprintf(stderr, "cannot open large object %u", lobjId);

    /*
     * 打开要写入的文件
     */
    fd = open(filename, O_CREAT | O_WRONLY | O_TRUNC, 0666);
    if (fd < 0)
    {                           /* 错误 */
        fprintf(stderr, "cannot open unix file\"%s\"",
                filename);
    }

    /*
     * 从大对象读入并写出到 Unix 文件
     */
    while ((nbytes = lo_read(conn, lobj_fd, buf, BUFSIZE)) > 0)
    {
        tmp = write(fd, buf, nbytes);
        if (tmp < nbytes)
        {
            fprintf(stderr, "error while writing \"%s\"",
                    filename);
        }
    }

    lo_close(conn, lobj_fd);
    close(fd);

    return;
}

static void
exit_nicely(PGconn *conn)
{
    PQfinish(conn);
    exit(1);
}

int
main(int argc, char **argv)
{
    char       *in_filename,
               *out_filename;
    char       *database;
    Oid         lobjOid;
    PGconn     *conn;
    PGresult   *res;

    if (argc != 4)
    {
        fprintf(stderr, "Usage: %s database_name in_filename out_filename\n",
                argv[0]);
        exit(1);
    }

    database = argv[1];
    in_filename = argv[2];
    out_filename = argv[3];

    /*
     * 设置连接
     */
    conn = PQsetdb(NULL, NULL, NULL, NULL, database);

    /* 检查看看后端连接是否成功建立 */
    if (PQstatus(conn) != CONNECTION_OK)
    {
        fprintf(stderr, "Connection to database failed: %s",
                PQerrorMessage(conn));
        exit_nicely(conn);
    }

    /* 设置总是安全的搜索路径,这样恶意用户就无法取得控制权。 */
    res = PQexec(conn,
                 "SELECT pg_catalog.set_config('search_path', '', false)");
    if (PQresultStatus(res) != PGRES_TUPLES_OK)
    {
        fprintf(stderr, "SET failed: %s", PQerrorMessage(conn));
        PQclear(res);
        exit_nicely(conn);
    }
    PQclear(res);

    res = PQexec(conn, "begin");
    PQclear(res);
    printf("importing file \"%s\" ...\n", in_filename);

/* 调用创建大对象、打开大对象、写入大对象函数将输入文件中的数据导入到新的大对象中。
 * 除此之外,可以直接调用lo_import函数创建一个新的大对象并从文件导入数据。
 */
/*  lobjOid = importFile(conn, in_filename); */
    lobjOid = lo_import(conn, in_filename);
    if (lobjOid == 0)
        fprintf(stderr, "%s\n", PQerrorMessage(conn));
    else
    {
        printf("\tas large object %u.\n", lobjOid);

		/* 读取大对象中位于1000-2000位置的数据 */
        printf("picking out bytes 1000-2000 of the large object\n");
        pickout(conn, lobjOid, 1000, 1000);

        /* 向大对象中位于1000-2000的位置写入数据 */
		printf("overwriting bytes 1000-2000 of the large object with X's\n");
        overwrite(conn, lobjOid, 1000, 1000);

/* 调用打开大对象、打开要写入的文件、读取大对象、写入文件函数将大对象中的数据导出到输出文件。
 * 除此之外,可以直接调用lo_export函数直接将大对象中的数据导出到文件。
 */
        printf("exporting large object to file \"%s\" ...\n", out_filename);
/*      exportFile(conn, lobjOid, out_filename); */
        if (lo_export(conn, lobjOid, out_filename) < 0)
            fprintf(stderr, "%s\n", PQerrorMessage(conn));
    }

    res = PQexec(conn, "end");
    PQclear(res);
    PQfinish(conn);
    return 0;